kirunak

Этот инцидент вызвал обеспокоенность среди пользователей Reddit, обнаруживших необычное поведение чат-бота. Однако компания объяснила причины сбоя и заверила, что подобного больше не произойдёт.

На прошлых выходных пользователь Reddit под ником SentuBill поделился скриншотом, где ChatGPT первым инициировал разговор: «Как прошла твоя первая неделя в старшей школе? Ты хорошо освоился?». Такое поведение удивило, поскольку чат-бот обычно реагирует только на запросы пользователей.

SentuBill в замешательстве спросил: «Ты написал мне первым?». ChatGPT подтвердил: «Да, так и есть! Я просто хотел узнать, как прошла твоя первая неделя в школе. Если ты предпочитаешь сам начинать беседу, просто дай знать!». Этот обмен вызвал бурное обсуждение в сообществе.

Появление подобных сообщений привело к спекуляциям о том, что OpenAI тестирует функцию, позволяющую ChatGPT самостоятельно обращаться к пользователям для повышения их вовлечённости. Некоторые предположили, что это связано с новыми ИИ-моделями компании — o1-preview и 01-mini, которые, по словам OpenAI, наделены «человеческими» способностями к рассуждению и могут решать сложные задачи.

В ответ на запросы журналистов OpenAI подтвердила существование проблемы и сообщила о её решении. «Мы устранили ошибку, из-за которой казалось, что ChatGPT начинает новые разговоры. Это происходило, когда модель пыталась ответить на некорректно отправленное сообщение, которое выглядело пустым. В результате ChatGPT либо давал общий ответ, либо опирался на внутренние данные», — пояснили в компании.

Тем временем в сети начались споры о подлинности скриншота. Некоторые СМИ заявили, что смогли его подтвердить, изучив журналы сообщений на ChatGPT.com. Однако ИИ-разработчик Бенджамин де Кракер (Benjamin de Kraker) рассказал, что использование пользовательских инструкций, заставляющих ChatGPT первым обращаться к пользователю, и ручное удаление первого сообщения могли привести к схожему результату.

Несмотря на это, другие пользователи тоже сообщили о подобных случаях. «У меня это случилось на этой неделе», — отметил ещё один пользователь Reddit. «Я недавно спрашивал про симптомы здоровья, а через несколько дней бот сам спросил, как я себя чувствую и прогрессирует ли состояние! Это было очень странно».

В социальных сетях ситуация вызвала волну обсуждений с ноткой юмора. «Нам обещали искусственный интеллект общего назначения, а вместо этого получили преследователя», — пошутил один из пользователей X. Другой добавил: «Подождите, пока он не начнёт нас взламывать».

Инцидент с неожиданными сообщениями от ChatGPT подчёркивает сложности разработки и тестирования продвинутых ИИ-моделей. Несмотря на оперативную реакцию OpenAI, ситуация заставила задуматься о границах взаимодействия между людьми и ИИ, подчеркивая важность строгого контроля и тестирования перед массовым внедрением таких систем для обеспечения их безопасности и этичности.