Почему нейросети «галлюцинируют» и что с этим делать?

Вы, наверное, слышали про нейросети. Это такие умные программы, которые умеют вести беседу, писать тексты, рисовать картинки и даже сочинять стихи. Кажется — ну прямо волшебство! Но у этого волшебства есть странность: нейросети иногда придумывают то, чего нет. И делают это с таким серьёзным видом, что можно и поверить.

Это явление программисты называют галлюцинацией. Нет, нейросеть не видит привидения или цветы на потолке 😊. Под словом «галлюцинация» здесь имеется в виду, что программа придумывает несуществующие факты.

Откуда берутся эти «вымыслы»? Нейросеть учится на огромном количестве текстов — книг, статей, разговоров. Но она не подключена напрямую к интернету и не проверяет факты, как поисковик. Вместо этого она, как школьник на контрольной без шпаргалки, пытается угадать правильный ответ по памяти. Иногда у неё это отлично получается. А иногда — увы, нет.

Пример:

Вы спрашиваете:

— Кто изобрёл электрическую лампочку?

А нейросеть отвечает:

— Михаил Ильич Светлов в 1903 году.

Красиво звучит? Да. Правда ли это? Нет. (На самом деле — Томас Эдисон, хотя и тут всё не так просто.) Почему это может быть опасно? Главная проблема — нейросеть очень убедительна. Она пишет уверенно, даёт даты, может даже придумать ссылку на несуществующую статью. И если человек не проверит — может продолжить “фантазировать”.

Это особенно важно, если вы спрашиваете о:

здоровье

финансах

юридических вопросах

Пример:

— Как получить скидку на лекарства?

И нейросеть выдумывает:

— Нужно сходить в аптеку с квитанцией за электричество и сказать слово "скидка".

Выглядит смешно, но кто-то может и попробовать.

Так что же делать? Нейросети — это не враги, не жулики и не фантазёры-злоумышленники. Они просто не знают, где правда, а где ложь. Их задача — продолжать текст так, чтобы он «выглядел правдоподобно».

Поэтому вот простой совет: используйте нейросеть — но проверяйте.

Пусть она помогает вам с:

написанием писем

составлением поздравлений

созданием стихов

объяснением сложных тем

Но если речь о чём-то серьёзном — лучше уточнить у живого человека или погуглить.

Пример:

— Как подать заявление в Битуах Леуми? Нейросеть может придумать, что надо идти в 5 утра с печеньем. А на деле — всё делается через сайт или с помощью детей/внуков.

Нейросеть — это полезный помощник, но не знаток. Иногда она фантазирует — без умысла, а просто потому что так устроена. Проверяйте информацию, особенно важную. Не стесняйтесь спрашивать, если что-то показалось странным.

Жить стало интереснее. Раньше мы разговаривали только с людьми, а теперь — и с машинами. Главное — не терять здравый смысл и использовать технологии с умом.

Если будет желание — нейросеть может сочинить вам анекдот, песню или поздравление ко дню рождения. Но нюансы про пенсионные выплаты пусть всё-таки объясняет человек 😊

Почему нейросети «галлюцинируют» и что с этим делать?

Обратите внимание!