Корпорация Nvidia — один из флагманов рынка, который тоже начал производить продукты для технологий ИИ. Собственная нейросеть компании NeMo Framework является основой для генеративных ИИ-систем, но недавно появилась информация о серьёзной уязвимости этого продукта.

Исследователи безопасности из компании Robust Intelligence из Сан-Франциско сообщили, что установленные в системе NeMo Framework ограничения можно обойти и получить доступ к персональным данным пользователей. Учитывая масштаб использования продуктов Nvidia, проблема более чем серьёзная.

По словам Ярона Сингера, профессора информатики Гарвардского университета и исполнительного директора Robust Intelligence, у ИИ «ещё много подводных камней». Он отметил, что проблему уязвимости искусственного интеллекта необходимо учитывать.

Источник: Ferra