Искусственному интеллекту нельзя предоставлять контроль над гуманитарными знаниями, потому что в итоге на всё будет даваться манипуляционный ответ. Об этом заявил член Президиума Совета по внешней и оборонной политике Александр Лосев.
По его словам, в США сейчас активно внедряются технологии искусственного интеллекта, которые в итоге будут всерьёз влиять на гуманитарные науки. И в какой-то момент технологии возьмут под контроль эти знания и генерируемую на их основе информацию.
Может дойти до того, что бот будет предоставлять пользователям «исчерпывающие» ответы вплоть до того, что Вторую мировую войну начал Советский Союз.
Когда мы обращается к чат-боту с искусственным интеллектом, тот ответ, который мы найдём, будет абсолютно манипуляционным. Он будет тем, что этот чат-бот вам навязал. Вот эта угроза, которая сейчас смутно ощущается, — в том, что гуманитарные знания можно будет переписать. В том, что, когда вы зайдёте в Интернет и попробуете что-то найти, когда вы привыкли использовать Интернет для обучения, то ваше обучение будет не таким, как это было в этом году или лет 10 назад. Вам расскажут, что Вторую мировую войну начал Советский Союз, что Анна Каренина была чёрная. Других знаний не будет, потому что поиск найдёт уже то, к чему вы привыкнете, а не то, что является правдой. Это — новый уровень технологий Интернета. Уже звучат голоса — «давайте у нас такое сделаем». Вот здесь — самая большая опасность, вот этого делать ни в коем случае нельзя, потому что когда вы используете искусственный интеллект для поиска, который вы не контролируете, он перехватывает контроль над гуманитарными знаниями.
Александр Лосев Член Президиума Совета по внешней и оборонной политике
