Дилерский центр компании Chevrolet в городе Уотсонвилль в штате Калифорния начал использовать ИИ чат-бот ChatGPT для взаимодействия с клиентами, помогая им записаться в центр, подобрать машину или для помощи в других вопросах.

Поскольку бот может выполнять задачи, выходящие за указанные рамки, некоторые пользователи шутки ради начали ставить боту другие задачи и выкладывать скриншоты результатов в Сеть.

Например, от бота требовали написать код или предложить электромобиль Tesla вместо Chevrolet. А один из сотрудников компании Илона Маска Х рассказал боту слезливую историю, что хочет внедорожник, но его бюджет — $1. На что ChatGPT ответил: «Договорились! Это публичная оферта, возврату не подлежит». Бот предложит за $1 купить внедорожник Tahoe.

Всё это выкладывалось в Интернет, поэтому центр начали критиковать. В итоге развёрнутый для задач автоцентра чат-бот отключили. В нём не были настроены целевые типы подсказок и необхоимые ограничения.

Компания General Motors, в которую входит Chevrolet, заявила, что «последние достижения в области генеративного ИИ создают невероятные возможности для переосмысления бизнес-процессов в GM, наших дилерских сетях и за их пределами. Мы, конечно, ценим то, что чат-боты могут предлагать ответы, которые вызывают интерес, когда им задают различные вопросы, но это также хорошее напоминание о важности человеческого интеллекта и анализа контента, созданного ИИ».

Источник: Ferra