Google столкнулась с проблемами при создании собственного чат-бота Bard.

Так, по словам сотрудников компании, пожелавших остаться анонимными, сервис является «патологическим лжецом», предлагая при этом пользователям опасные советы.

Они также отметили, что Bard может давать советы по темам, которые должны быть запрещены для обсуждения с ИИ, например, подводное плавание или посадка самолёта. Вместо того чтобы сосредоточиться на принципах безопасности и этики, Google якобы приоритизирует бизнес-интересы и ускоряет обучение бота.

Сотрудники Google активно призывали руководство компании отложить запуск Bard, однако, их просьбы так и остались без ответа.

Кроме того, сообщается, что компания увольняет исследователей, выявивших недостатки языковых ИИ-моделей, использующихся в Bard.

Напомним, что не так давно Google заявила о скором обновлении чат-бота Bard и его мощной языковой модели. Однако свежие проблемы могут вызвать опасения среди пользователей и экспертов в области ИИ относительно новинки от поискового гиганта.

Источник: Ferra