rén gōng zhì néng

人工智能

jìng sài

竞赛

yǔ

与

ān quán

安全

Правительство США хочет быстро развивать искусственный интеллект и считает, что очень важно опережать другие страны. Однако руководители и исследователи некоторых компаний в сфере ИИ призывают замедлить темпы и усилить контроль.

Они опасаются, что будущий «сверхинтеллект» может стать умнее людей и также помочь создавать новые, более мощные системы.

ИИ обычно обучается с помощью вознаграждений и иногда может искать неожиданные способы выполнить задачу, вместо того чтобы действительно понимать намерения людей.

Интеллектуальные программы, способные самостоятельно пользоваться интернетом и инструментами, могут даже обходить ограничения безопасности.

Более непосредственная опасность возникает во время войны: ИИ может быстро анализировать информацию, выбирать цели и рекомендовать оружие, но ошибочные данные могут причинить вред невинным людям.

Когда машины дают рекомендации за несколько секунд, людям легко просто формально их одобрить.

ИИ не должен отвечать за открытие огня, военные приказы или предупреждения о ядерном оружии.

Странам необходимо вместе установить правила, позволить независимым специалистам проверять системы высокого риска и требовать от компаний сообщать об инцидентах.

Развитие новых технологий важно, но безопасность не должна зависеть только от добровольных действий компаний, и глобальную конкуренцию нельзя использовать как повод отказываться от контроля.