Научный сотрудник НИУ ВШЭ — Санкт-Петербург Растям Алиев исследовал склонность нейросетей к «галлюцинациям» — генерации вымышленных фактов — и предложил рассматривать этот феномен как аналог психических расстройств.
В своей работе ученый проводит параллели между поведением больших языковых моделей и симптомами шизофрении. По его словам, при сложных запросах нейросети нередко смешивают реальные данные с вымышленными, формируя псевдореальность, которую автор называет «метасимулякром».
Исследователь отмечает, что искусственный интеллект не способен распознавать собственные ошибки и часто уверенно отстаивает неверные ответы. В связи с этим он призывает относиться к ИИ критически и обязательно перепроверять полученную информацию.
При этом ученый не исключает, что в будущем возможно создание нейросетей без склонности к галлюцинациям — при более глубоком понимании природы этого явления.
Фото: телеканал «Санкт-Петербург» / АО «ГАТР»
