rén gōng zhì néng

人工智能

jìng sài

竞赛

xū yào

需要

ān quán

安全

guī zé

规则

Искусственный интеллект развивается быстро. Некоторые исследователи, участвующие в его разработке, опасаются, что будущие системы могут стать очень мощными, а у людей всё ещё нет надёжного способа гарантировать, что они всегда будут следовать человеческим указаниям.

Это не означает, что катастрофа обязательно произойдёт, поскольку идея о том, что искусственный интеллект может уничтожить человечество, всё ещё является спорной крайней гипотезой.

Однако, если эксперты считают, что опасность действительно существует, компании не могут сосредоточиваться только на повышении технических возможностей и откладывать решение вопросов безопасности на потом.

Исследователи, руководители компаний и правительства — все должны нести ответственность.

Сейчас небольшое число крупных компаний контролирует финансирование, оборудование и талантливых специалистов, но при этом риски, которые они создают, может разделить весь мир.

Компании и страны также боятся отстать от соперников, поэтому никто не хочет первым замедляться. Это очень похоже на гонку вооружений.

Настоящий вопрос не в том, следует ли исследовать искусственный интеллект, а в том, кто определяет темпы развития, какие риски недопустимы и когда необходимо остановиться.

Искусственный интеллект влияет на всех, поэтому правила безопасности не могут определяться только компаниями.

Странам необходимо открыто обсуждать эти вопросы, проводить совместные проверки и устанавливать чёткие ограничения, чтобы перед дальнейшим развитием технологий подготовить надёжные «тормоза».