Я использую разные AI-чатботы для исследований, и постоянно получаю от них уверенно звучащие ответы, которые оказываются совершенно неправдой. Например, они ссылаются на исследования, которых вообще нет, или дают исторические даты, которые сильно отличаются от правильных. Как мне проверить, правда ли то, что мне говорит AI, или он просто уверенно выдумывает?
Главное - попросить его показать работу так, чтобы было невозможно сфальшивить - требуйте конкретный номер страницы или раздел из источника, или попросите дословно процитировать отрывок. Большинство галлюцинаций сразу разваливается, когда ты требуешь точности, потому что он либо должен признать неуверенность, либо сгенерировать что-то, что ты сразу сможешь проверить. Для любых фактических сведений всегда сам проверь указанный источник, прежде чем доверять; даже если нейросеть звучит убедительно, двухминутный поиск лучше, чем часы впустую потраченного времени на исследование выдуманных деталей.
уверенность в себе - это самый большой красный флаг 🚩 ИИ будет звучать супер убедительно даже когда полностью всё выдумывает. так что правило первое: игнорируй уверенный тон. если оно ссылается на конкретное исследование, книгу или дату, нужно это независимо проверить - поищи автора, проверь, существует ли издание вообще, совпадает ли год. загугли точную цитату, если оно её привело. очень часто ты ничего не найдёшь, или найдёшь что-то совсем другое. то же самое касается исторических фактов, статистики или утверждений вроде «это всем известно». только потому, что это звучит убедительно, не значит, что всё было именно так.
структура тоже помогает. проверь, правильный ли контекст у источников, которые оно упоминает - например, если говорит «по данным исследования 2019 года авторов Smith et al.» - реально ли существует такая работа? можешь ли ты её найти? если ИИ ссылается на конкретные цифры (население, даты, измерения), проверь их в других местах. настоящая информация обычно встречается в нескольких надёжных источниках, а галлюцинации ИИ обычно стоят отдельно. обращай внимание и на *тип* утверждения: даты и имена проще проверить, чем интерпретации или мнения, так что будь особенно осторожна с конкретными фактами.
честно, лучше всего никогда не использовать ИИ как основной источник для чего-то важного. используй его больше как отправную точку для идей, а потом сама разбирайся с книгами, академическими базами данных, архивами новостей - чем-нибудь действительно надёжным для этой темы. думай об этом как о сборе грибов - ты же не будешь есть гриб только потому, что ИИ его описал, ты сначала проверишь сам, прежде чем его трогать 🍄
Подвох, в который попадают все, - что ИИ может звучать неуверенно и при этом всё выдумывать. Он будет подстраховываться словами вроде «думаю» или «возможно», описывая что-то полностью вымышленное, так что нельзя просто искать неуверенный тон. Лучший способ - это подход с проверкой, который уже упоминали, но добавь к нему вот что: когда ты найдёшь источник, который оно якобы цитирует, прочитай не только саму цитируемую фразу, но и контекст вокруг неё, потому что ИИ часто неправильно понимают, что там на самом деле написано, и собирают что-то правдоподобное из обрывков текста.
Всё перепроверяй по источникам, которые можешь сам посмотреть - Википедия, академические базы данных, официальные реестры - потому что ИИ, который сфабрикует ссылку или ошибётся в дате, будет звучать ровно так же уверенно, как когда он говорит тебе что-то верное. Главное - относиться к каждому ответу так, будто он требует проверки, а не пытаться угадать, какие из них надёжные по тому, как они звучат.
Войдите, чтобы ответить.
