Ученые научились ловить ИИ на лжи

Британские ученые разработали способ, позволяющий точно определить, когда чат-боты на основе искусственного интеллекта обманывают пользователей.

Хотя ChatGPT и другие похожие боты не способны намеренно вводить в заблуждение, они могут предоставлять неточные данные, если не владеют всей информацией.

Исследование было опубликовано в журнале Nature. Ученые измеряли семантическую энтропию. Они задавали искусственному интеллекту один и тот же вопрос несколько раз и подсчитывали число семантически эквивалентных ответов. Если большинство ответов совпадали, скорее всего, бот был не уверен в формулировке, но знал правильный ответ. В противном же случае, нейросеть могла говорить неправду.

Фото: pxhere.com

Ещё новости о событии:

Санкт-Петербург, /НИА-САНКТ-ПЕТЕРБУРГ/. С 25 по 28 июля на горном курорте покажут лучшие отечественные и зарубежные фильмы о науке и технологиях, искусственном интеллекте, нейросетях, изучении мозга,
12:43 25.06.2024 НИА Санкт-Петербург - Санкт-Петербург
ИИ может предоставлять неточные данные Фото: Олег Золото / «Петербургский дневник» Ученые из Великобритании создали метод, который позволяет точно определить,
05:00 25.06.2024 Петербургский дневник - Санкт-Петербург
ИИ может предоставлять неточные данные Фото: Олег Золото / «Петербургский дневник» Ученые из Великобритании создали метод, который позволяет точно определить,
04:20 25.06.2024 Spbdnevnik.ru - Санкт-Петербург
Британские ученые разработали способ, позволяющий точно определить, когда чат-боты на основе искусственного интеллекта обманывают пользователей.
23:50 24.06.2024 ТК Санкт-Петербург - Санкт-Петербург

Новости соседних регионов по теме:

Злоумышленники контролируют обмен информации в интернете Искусственный интеллект – это главное достижение человечества за последнее десятилетие.
08:11 27.06.2024 Primorye24.Ru - Владивосток
фото: mos.ru Чат-бот, запущенный на столичном портале поставщиков осенью 2020 года, обработал почти 180 тысяч запросов.
13:40 24.06.2024 Информационный Центр - Москва
 
По теме
Вручение дипломов выпускникам 2024 года в Институте водного транспорта - ГМА им. адм. С.О.Макарова Вручение дипломов выпускникам 2024 года в Институте водного транспорта С 16 июля по 18 июля в ГУМРФ состоялось торжественное вручение дипломов выпускникам Института водного транспорта 2024 года.
ГМА им. адм. С.О.Макарова
Сегодня на 66-м году жизни не стало Натальи Никитиной – создателя и бессменного руководителя Театра Дождей - Spbdnevnik.ru О дате и месте прощания будет известно чуть позже Фото: предоставлено Театром Дождей Сегодня на 66-м году жизни не стало Натальи Никитиной – создателя и бессменного руководителя Театра Дождей.
Spbdnevnik.ru
Представители администрации Петербурга встретились с ветеранами и блокадниками - ТК Санкт-Петербург В Музее обороны и блокады Ленинграда по поручению губернатора Санкт-Петербурга Александра Беглова сегодня прошла встреча городской администрации с ветеранами и блокадниками.
ТК Санкт-Петербург