měi zhōng美中wèi shén me为什么yào要tán谈rén gōng zhì néng人工智能
Китай и США недавно согласились провести правительственные переговоры по искусственному интеллекту.
Причина в том, что ИИ развивается слишком быстро, и обе стороны опасаются, что он принесёт новые проблемы безопасности.
Недавно одна американская компания создала очень мощную модель, которая может находить уязвимости в банках, электросетях и правительственном программном обеспечении, и это сильно встревожило многих людей.
Эксперты говорят, что если эту технологию используют злоумышленники, преступные группы или террористы, она может быть применена для атак на больницы, общественные объекты и сетевые системы, а последствия будут очень серьёзными.
О чём США и Китай могут говорить на этот раз?
Во-первых, о том, как защитить самый передовой ИИ и не допустить, чтобы опасные технологии попали в руки плохих людей; во-вторых, об обмене информацией о инцидентах безопасности, например о том, как обе стороны могут обнаруживать и реагировать, если кто-то пытается использовать ИИ во вред; в-третьих, о создании экстренных каналов связи, чтобы при возникновении проблемы можно было сразу связаться и уменьшить недоразумения.
Однако две страны сильно конкурируют в сфере технологий и торговли, и они не слишком доверяют друг другу, поэтому достичь официального соглашения будет непросто.
Тем не менее многие эксперты считают, что лучше разговаривать, чем не разговаривать, потому что если у ИИ не будет базовых правил, будущие риски станут ещё больше.