Google обвинила в странных ответах поискового ИИ самих пользователей и недостаток обучающих данных
На минувшей неделе Google добавила в поисковую систему блок сводок, которые готовит генеративный ИИ. Компания стремилась повысить качество работы поисковой системы, но ИИ начал давать пользователям странные ответы, например, советовал есть камни и клеить сыр к пицце. Компания быстро удалила наиболее скандальные результаты, но они уже успели уйти в мемы. Теперь с комментариями выступила глава поискового подразделения компании.
Глава отдела поиска Google Лиз Рид (Liz Reid) обвинила в неточных результатах ответов поискового генеративного ИИ «пустоты данных» и самих пользователей, которые придумывали странные вопросы. По её мнению, блоки с обзорами, которые создаёт генеративный ИИ, дают пользователям «большее удовлетворение» работой поисковой службы. Генерируемые ИИ ответы, как правило, не являются галлюцинациями — просто система иногда неверно интерпретирует то, что есть в Сети.
«Нет лучшего аргумента, чем миллионы людей, использующих эту функцию со множеством новых запросов. Мы также отметили новые бессмысленные запросы, по-видимому, направленные на получение ошибочных результатов», — сообщила Рид. Компания, однако, продолжает работать над функцией, ограничивая появление ИИ-обзоров в выдаче по «бессмысленным» запросам и при работе с сатирическими материалами. Это важно, потому что первоначально система могла процитировать сатирический ресурс или сослаться на пользователя соцсети с неприличным ником.
Рид также сравнила ИИ-обзоры с поисковой функцией «Выделенные описания» — это блоки с фрагментами текста релевантных веб-страниц, которые приводятся без участия генеративного ИИ. По словам топ-менеджера, «уровни точности» двух функций примерно совпадают.
Andrey on