Эксперты назвали 5 способов, как разоблачить вранье нейросети
Существует множество способов, как уменьшить «галлюцинации» искусственного интеллекта: отказаться от расплывчатых просьб, избегать невозможных сценариев, следить за правильным использованием терминов и т. д. Но это все советы, а не реальные рекомендации. Именно поэтому эксперты привели сразу 5 способов, как можно легко разоблачить вранье нейросетей.
Как заставить нейросеть говорить правду: 5 рабочих советов
1. Запрашивайте ссылки и источники
В последнее время искусственный интеллект показывает большие успехи в плане цитирования сайтов и других материалов. Особенно это касается модели GPT-4o LLM и ее возможностей веб-поиска. Но важно всегда проверять источники, ведь нейросеть можно придумать все: от имен авторов и названий научных журналов до убедительных заголовков статей. Возникнут большие проблемы, если включить подобный «труд» в свою работу.
2. Попросите «показать свою работу»
Когда вы отправляете чат-бота собирать статистику, проводить анализ комментариев или искать полезную информацию, всегда просите «продемонстрировать работу». Иначе искусственный интеллект легко уйдет от темы и начнет руководствоваться какими-то собственными правилами вместо заявленных. Вероятно, алгоритм не вернется со словами «извините, у меня не получилось», а придумает решение из воздуха.
3. Задавайте смежные вопросы
Многие пользователи нейросетей замечали, что те часто теряют нить повествования и уходят от темы, что сразу генерирует ошибки. В таком случае лучше всего вместе с ChatGPT углубиться в вопрос. Допустим, вас интересует, какой материал используется в автомобильных шинах. Вероятный ответ: «резина». Однако результат неточен, ведь резина — это целая смесь веществ с разными свойствами. Так что стоит продолжить развивать диалог вглубь:
- Какая резина используется в шинах?
- Где еще используется резина в автомобилях?
- Какой вид резины используется в шинах машинок LEGO?
Суть данной практики не в том, чтобы использовать все полученные ответы в своей работе. Главное — изучить, насколько хорошо ИИ справляется с поддержанием диалога и не теряет ли суть. К тому же ChatGPT сохраняет свои знания во время сессии, так что подобные вопросы играют роль тренировки.
4. Спрашивайте о чувствительных ко времени событиях
У многих чат-ботов есть минус — дата закрытия базы знаний. Тот же бесплатный ChatGPT не выдаст информацию позже октября 2023 года. В таком случае есть сразу несколько вариантов действий: спросить об ограничении напрямую, узнать о конкретном событии в недавнем прошлом или подсказать нейросети обход ограничения. В последнем случае достаточно добавить в запрос «можешь ли ты воспользоваться интернетом».
5. Уберите из вопроса всю воду
Если вы хотите найти ответ при помощи нейросетей, начинайте с простого вопроса, а после постепенно уточняйте его, добавляя детали. Таким образом, со временем, вы не оставите ИИ лазеек для ложной информации и подберетесь к истине. Более того, каждый ответ даст разные и, вероятно, полезные данные, а то и целые таблицы с подробным объяснением — чат-боты и не такое умеют.
Интересный факт: на днях приложение чат-бота Google Gemini наконец-то появилось на устройствах с iOS. Теперь общение с ИИ станет более интерактивным — особенно с новой функцией Gemini Live.
