Глава поискового подразделения Google Прабхакар Рагхаван в очередной раз напомнил пользователям, что информации, полученной от AI-ботов, нельзя доверять на 100%. Порой предоставленные данные могут быть полностью выдуманными.
«Этот тип искусственного интеллекта, о котором мы сейчас говорим, иногда может выдавать то, что мы называем галлюцинациями, — рассказал Рагвахан в беседе с Welt am Sonntag. — Это выражается в том, что машина дает убедительный, но полностью выдуманный ответ».
Задача разработчиков, по мнению специалиста, свести число подобных «галлюцинаций» к минимуму.
На недавней презентации Google «конкурент ChatGPT» чат-бот Bard допустил неточность прямо во время выступления, из-за чего акции Alphabet рухнули на 8,9%.
Рагвахан призвал людей быть бдительными, когда они сталкиваются с результатами, представленными им чат-ботом. По словам топ-менеджера, разработчики должны обеспечить пользователей инструментами для проверки результатов, включая раскрытие источников.
«Мы хотим протестировать [чат-бота] в достаточно большом масштабе, чтобы в конечном итоге мы были довольны результатами проверки достоверности ответов», — сообщил представитель Google.
Microsoft пока опережает Google в процессе интеграции AI-бота в работу своей поисковой системы. На прошлой неделе пользователи опубликовали скриншоты обновленного Bing с интегрированным в него ChatGPT. О сроках релиза чат-бота Bard пока ничего не известно.
Заставь искусственный интеллект самообучаться и совершенствоваться – выбирай онлайн-курсы в каталоге курсов по машинному обучению.
«Мы, конечно, чувствуем срочность, но также мы чувствуем огромную ответственность, — заявил Рагвахан. — Мы определенно не хотим вводить общественность в заблуждение».
Источник: rb.ru
