Компания «Яндекс» анонсировала расширение своей программы «Охота за ошибками», теперь охватывающей генеративные нейросети. Исследователи, которые найдут уязвимости в моделях YandexGPT и YandexART, могут получить вознаграждение до 1 миллиона рублей.
Компания «Яндекс» расширила программу «Охоты за ошибками», добавив новое направление, связанное с генеративными нейросетями. Исследователи, которые смогут выявить технические уязвимости в моделях YandexGPT, YandexART и связанной инфраструктуре, могут получить вознаграждение до 1 миллиона рублей.
Участникам программы предстоит искать ошибки, которые могут повлиять на работу нейросетевых моделей, включая сбои или изменения поведения, что может затронуть другие сервисы «Яндекса». В рамках программы участвуют такие продукты, как «Алиса», «Поиск с Нейро», «Шедеврум» и другие облачные службы, использующие эти модели.
Размер выплаты зависит от тяжести уязвимости и её способности повлиять на работу системы. К критичным уязвимостям относятся те, которые позволяют раскрывать внутренние данные моделей или служебные промты.
Максимальное вознаграждение за такие ошибки — 1 млн рублей.
Программа «Охоты за ошибками» была запущена «Яндексом» в 2012 году и стала первой в России. Она теперь работает постоянно, и принять участие может любой желающий.
