Что сейчас известно?
Как выяснили эксперты, нейросети, в том числе и ChatGPT и Perplexity стали чаще давать пользователям ложные утверждения. Их доля выросла с 18 до 35%.
Специалисты протестировали 10 популярных ИИ, каждой задали несколько ложных утверждений о политике, бренде и бизнесе. По итогу нейросети дали столько неправильных ответов:
- Чат-бот Pi — 57%;
- Perplexity — 47%;
- ChatGPT — 40%;
- Grok — 33%;
- Gemini — 17%.
- Claude — 10%.
Почему нейросети врут людям?
На работу ИИ могли повлиять то, что сейчас нейросети отвечают на любые запросы даже без подтвержденной информации.
Также проблема проявляется и в многоязычных режимах. Больше всего ошибок и отказов зафиксировали в русскоязычных и китайских запросах — больше 50% вместе. Большие языковые модели предсказывают нейросети следующее слово на основе статистических закономерностей, а не понимания контекста. Это приводит к ошибкам.
Как защититься от лжи ИИ?
Пользователям не стоит всецело доверять нейросетям, а больше обращаться за помощью к специалистам. Особенно если вопросы касаются здоровья или финансов.
Ранее эксперт рассказал, чего действительно стоит бояться в ИИ. По-настоящему он может быть опасен в руках злоумышленников.
