GPT-4 может автономно написать критическую уязвимость нулевого дня
Последнее достижение OpenAI, технология GPT-4, является значительным прорывом в области мультимодальных больших языковых моделей (LLM). Включенная в премиум-пакет ChatGPT Plus для подписчиков, эта передовая модель продемонстрировала потрясающую способность автономно обнаруживать уязвимости безопасности без человеческого вмешательства.
Новое исследование фокусируется на изучении возможностей GPT-4, ведущего чат-бота на современном рынке.
Исследование утверждает, что, несмотря на рост возможностей LLM, им не хватает этических рамок, регулирующих их поведение. Исследователи провели анализ различных моделей, включая коммерческие предложения OpenAI, LLM с открытым исходным кодом и сканеры уязвимостей.
Ассистент профессора UIUC, Дэниел Канг, высоко оценил эффективность GPT-4 в обнаружении и создании уязвимостей нулевого дня. Учитывая, что OpenAI уже работает над GPT-5, Канг ожидает, что в скором времени нейросети превратятся в доступные инструменты для ещё более широкой эксплуатации уязвимостей.
