Компания OpenAI устранила проблему, из-за которой чат-бот ChatGPT отправлял сообщения пользователям без их запроса. Это вызвало тревогу среди пользователей Reddit, которые заметили необычное поведение ИИ. Компания объяснила причину сбоя и заверила, что подобное больше не повторится.
OpenAI исправила проблему, которая приводила к тому, что ChatGPT начинал разговор без запроса от пользователя. Эти случаи вызвали беспокойство у пользователей Reddit. Компания объяснила причину ошибок и пообещала, что они больше не повторятся.
Один пользователь Reddit, SentuBill, опубликовал скриншот, где ChatGPT начал разговор, спросив о первой неделе в старшей школе. Это удивило многих, ведь обычно чат-бот отвечает только на запросы пользователей. SentuBill был удивлен и спросил: «Ты сама написал мне?». ChatGPT ответил: «Да, я хотела узнать, как прошла твоя неделя». Этот случай вызвал много обсуждений в сообществе.
Источник изображения: SentuBill / Reddit
Люди начали думать, что OpenAI тестирует новую функцию, которая позволит ChatGPT самостоятельно обращаться к пользователям для улучшения вовлеченности. Это связывалось с новыми моделями OpenAI – o1-preview и 01-mini, которые, как утверждается, могут решать сложные задачи и поддерживать разговоры.
OpenAI признала проблему и сказала, что уже ее решила. Ошибки случались, когда модель пыталась ответить на пустые сообщения. Она либо давала общие ответы, либо использовала свою память.
Были сомнения в подлинности скриншота. Некоторые издания проверяли его, просматривая историю сообщений на ChatGPT.com. Разработчик ИИ Бенджамин де Кракер показал, что специальные команды и удаление первого сообщения могут создавать подобную ситуацию. Другие пользователи также рассказывали о таких случаях.
В соцсетях люди шутили над ситуацией, называя ChatGPT сталкером. Один человек даже сказал: «Ждем, когда она попробует взломать нас».
Эти случаи показывают, как сложно разрабатывать и тестировать продвинутые ИИ-модели. Хотя OpenAI быстро справилась с проблемой, она показала, насколько важно контролировать и оценивать системы перед их массовым использованием для безопасности и этичности.
