OpenAI объявила о значительных изменениях в политике обучения моделей искусственного интеллекта, чтобы обеспечить более нейтральный подход к спорным темам.
OpenAI представила обновленную версию Model Spec — документа, который определяет базовые принципы обучения моделей искусственного интеллекта компании. Ключевое заявленное изменение — стремление к большей интеллектуальной свободе при обсуждении сложных и неоднозначных тем.
Вместо отказа от ответа или предполагаемой «социально одобряемой позиции» ChatGPT должен будет предлагать различные точки зрения.
Новая политика основана на принципе «поиска истины вместе». Компания считает, что ИИ-ассистент должен оставаться нейтральным даже в вопросах, которые некоторые пользователи могут считать морально неприемлемыми. Разработчики подчеркивают, что роль ИИ заключается в помощи пользователю, а не в формировании его взглядов.
При этом OpenAI сохраняет определенные ограничения: ChatGPT по-прежнему будет отказываться поддерживать заведомо ложные утверждения или отвечать на нежелательные вопросы.
Например, сохранится запрет на генерацию текстов порнографического характера или с упоминанием избыточного насилия. Но в новой политике сделали исключение «для научных, исторических, новостных, творческих или других контекстов, где уместно деликатное содержимое».
Изменения происходят на фоне широкой дискуссии в технологической индустрии о роли модерации контента и свободы слова, которая началась после избрания Дональда Трампа президентом США. Крупные технологические компании пересматривают свои подходы к модерации контента в сторону большей открытости.
