Пользователи «рассуждающей» модели o1 от OpenAI обнаружили необычное явление: при решении задач на английском языке ChatGPT иногда переходит на китайский и другие языки в процессе поиска ответа. Эксперты расходятся во мнениях о причинах такого поведения, пишет TechCrunch.
Переход на другой язык заметили вскоре после выпуска модели o1: пользователи стали сообщать о неожиданных переключениях языка в процессе решения задач. Даже если весь диалог полностью велся на английском языке система могла начать промежуточные рассуждения на китайском, персидском или других языках. При этом финальный ответ ChatGPT давал на языке исходного вопроса.
uhmm, why is my gpt o1 thinking in chinese, lol@OpenAI @ChatGPTapp pic.twitter.com/888PS7Azto
— Niro (@K_P_Jorgan) January 5, 2025
Эксперты предлагают несколько объяснений этому явлению. Клемент Деланг, генеральный директор Hugging Face, и Тед Сяо из Google DeepMind считают, что причина может крыться в использовании китайских сервисов для разметки обучающих данных. Они полагают, что это может создавать своего рода «китайское лингвистическое влияние» на процесс рассуждений ИИ.
Другие эксперты предполагают более простое объяснение: искусственный интеллект может просто выбирать наиболее эффективный для конкретной задачи язык. «Модель не знает, что такое язык или что языки различаются. Для нее это просто текст», — поясняет Мэтью Гуздиал, исследователь ИИ из Университета Альберты.
Течжень Ван из Hugging Face проводит параллель с человеческим мышлением, отмечая, что люди тоже могут предпочитать разные языки для разных задач.
Например, я предпочитаю заниматься математикой на китайском языке, потому что каждая цифра — это всего лишь один слог, что делает вычисления четкими и эффективными. Но когда дело доходит до таких тем, как бессознательная предвзятость, я автоматически переключаюсь на английский, в основном потому, что именно там я впервые узнал и усвоил эти идеи.
Течжень Ван, инженер из Hugging Face в своем блоге X
OpenAI пока не прокомментировала это явление. При этом, как отмечает Лука Солдайни из Института Аллена по ИИ, точное объяснение найти сложно из-за непрозрачности работы современных систем искусственного интеллекта.
