RAG-системы — один из популярных сценариев использования ИИ. Основанные на RAG сервисы создаются для работы с большими документами, анализа, сравнения данных и других задач, связанных с большим объемом данных. В чем их отличие от привычных нам умных чат-ботов и как использовать подобные инструменты в работе, рассказывает Филипп Панфилов, руководитель сервиса «Нейроэксперт» от Яндекса.
Зачем нужен RAG
Исследования показывают, что россияне уже используют ИИ в повседневных делах и для работы. Чат-боты на базе нейросетей помогают анализировать данные, придумывать новые идеи и редактировать тексты. Но есть нюанс: иногда они «галлюцинируют», то есть выдумывают факты. Некоторые из таких ошибок легко заметить, другие – сложнее. В целом на данном этапе своего развития нейросети скорее помогают людям с их задачами и требуют проверки, чем могут все сделать сами. Так в дипломных работах студентах появляются списки литературы, состоящие из несуществующих авторов, а юристы в судах ссылаются на вымышленные дела.
Другая сложность — нейросети знают только публично доступную информацию, на которой были обучены. А если вы хотите использовать их в работе, и для нее специфичные данные или доступ к внутренним документам компании, обычный чат-бот не подойдет.
Поэтому возникла потребность в новом типе ИИ-помощников, которые оперируют строго определенным скопом информации — ими стали RAG-системы. Технология RAG — retrieval-augmented generation, или генерация, дополненная внешней информацией. Она работает на базе больших языковых моделей, но, в отличие от уже привычных чат-ботов, генерирует ответ на основе предоставленной информации. Проще говоря, такие сервисы берут информацию из источника, который предоставил пользователь (и при этом не выдумывают факты).
К примеру, человек может загрузить в систему годовой отчет и попросить выделить из него основные тезисы — нейросеть сгенерирует ответ на основе найденных в файле данных. Преимущество в том, что модель не будет выдумывать тезисы самостоятельно. Кроме того, пользователь может в любой момент обновить информацию и управлять тем, к каким знаниям есть доступ у сервиса. В обычных чат-ботах сложно достичь такого уровня контроля.
Подобные сервисы сейчас развивают разные компании: это, например, NotebookLM от Google или Нейроэксперт, созданный в Яндексе. Благодаря точности и способности быстро обрабатывать большие объемы данных, RAG-системы подходят для решения разных рабочих задач. Вот несколько сценариев их использования:
Создать базу знаний
Работа в сферах интеллектуального труда часто связана с большим объемом информации — гайдлайнами компании, отчетами по прошлым проектам и любой другой документацией. Разобраться в этом может быть непросто, особенно новому сотруднику. В такой ситуации RAG-систему можно превратить в личную базу знаний. Для этого нужно загрузить все подходящие источники в сервис (обычно он позволяет работать с разными форматами, от текстовых файлов, до презентаций и видео) — после этого к системе можно будет обращаться с любыми вопросами по документами. Например, можно спросить, как выглядит шаблон нужного отчета или как оформить командировку.
Преимущество в том, что ответ будет составлен на основе загруженных документов — без домыслов или общей информации из интернета. Если же требуемой информации в документах нет, сервис честно об этом скажет и не будет пытаться ее придумать.
Анализировать информацию
Если нужно быстро понять суть объемного отчета (например, рыночного исследования), выделить ключевые моменты и сравнить данные, RAG-системы тоже могут существенно сэкономить время.
Самый простой сценарий в таком случае — это попросить сервис составить краткое описание документа и представить основные тезисы. При этом ИИ не обязательно должен брать на себя весь анализ информации — он может стать ассистентом для более вдумчивой самостоятельной работы с данными. Например, его можно спросить, какие основные риски указаны в документе, как изменились тренды и показатели относительно прошлого года и на какой странице можно найти те или иные цифры.
RAG не ограничивается одним пересказом информации: как и другие сервисы на основе больших языковых моделей, он способен рассуждать. Поэтому такие системы можно просить сделать выводы на основе изученного, просить спрогнозировать дальнейшее развитие событий и так далее.
Составлять документы
RAG-системы помогают создавать планы и писать тексты, но делают это с опорой на конкретные данные. Например, сотрудник коммерческого отдела может загрузить информацию о компании и ее проектах, а система составит план продающей презентации — соберет структуру документа и опишет, какой текст может быть представлен на том или ином слайде. Аналогично она может помочь с созданием отчета — для этого нужно будет загрузить имеющиеся данные и, при необходимости, шаблон документа.
ИИ существенно экономит время сотрудникам, если для таких задач нужно обрабатывать большой объем данных из разных источников (презентаций, предыдущих отчетов, сводных таблиц и так далее), к тому же не делает ошибок по невнимательности. При этом именно пользователь определяет финальный вид работы — он может попросить изменить логику документа, формулировки или основной посыл. Нейросети здесь выступают как «второй пилот».
Разбираться в новых темах
Из RAG-системы получается хороший наставник в ситуации, когда человеку нужно быстро разобраться в новой теме. Достаточно загрузить справочные материалы в систему, попросить пересказать основные сведения, а дальше — задавать уточняющие вопросы в нужном направлении.
Например, так можно быстро узнать все необходимое перед звонком с новым клиентом, когда на полноценное погружение просто нет времени. При этом система может помочь сформулировать предложение для конкретного клиента: например, выделить из большой презентации кейсы, которые стоит подсветить на звонке. Систему можно просить не просто извлекать тезисы из больших документов, а объяснять их понятными словами — это полезно, если изучить нужно тонкости незнакомой сферы (к примеру, юридические или технические детали).
Сравнивать данные
Сопоставление данных из разных источников обычно занимает много времени — особенно, если сравнивать нужно объемные файлы или плохо систематизированную информацию. К тому же это требует внимания, которое может быть сложно сохранять дольше 15-20 минут подряд. Так что подобные задачи можно делегировать RAG-системам: они подходят для сравнения данных из разных отчетов, исследований и файлов.
Систематизация может помочь и в тех случаях, когда человеку для принятия решения нужно наглядно разложить плюсы и минусы. К примеру, HR-специалист может загрузить несколько резюме и сравнить особенности разных кандидатов — например, оценить их опыт работы, отсортировать по зарплатным ожиданиям или найти наиболее подходящего под конкретную позицию.
Конечно, конкретные сценарии работы будут зависеть от того, какие задачи человек решает на работе каждый день — нужно ли ему регулярно читать многостраничные отчеты или искать точные формулировки в гайдлайнах компании. В любом случае, RAG может выступить как личный ассистент, который ускоряет работу с данными — при этом он не домысливает факты и анализирует документы пользователя, которых может не быть в открытом доступе.
