rén gōng zhì néng人工智能jìng sài竞赛yǔ与ān quán安全
AI 경쟁과 안전
本站: 原文:
朗读 · AUDIO
HSK 等级高亮 · Highlight by HSK Level
měi guó美国zhèng fǔ政府xī wàng希望kuài sù快速fā zhǎn发展rén gōng zhì néng人工智能，rèn wéi认为lǐng xiān领先qí tā其他guó jiā国家shí fēn十分zhòng yào重要，dàn但yī xiē一些rén gōng zhì néng人工智能gōng sī公司de的fù zé rén负责人hé和yán jiū rén yuán研究人员què却yāo qiú要求fàng màn放慢sù dù速度，jiā qiáng加强guǎn lǐ管理。
미국 정부는 인공지능을 빠르게 발전시키고 다른 나라보다 앞서는 것이 매우 중요하다고 생각합니다. 그러나 일부 AI 기업의 책임자와 연구자들은 속도를 늦추고 관리를 강화해야 한다고 요구하고 있습니다.
tā men他们dān xīn担心，wèi lái未来de的“chāo jí超级zhì néng智能”kě néng可能bǐ比rén lèi人类gèng更cōng míng聪明，hái还néng能bāng zhù帮助zhì zào制造gèng更qiáng强de的xīn新xì tǒng系统。
그들은 미래의 ‘초지능’이 인간보다 더 똑똑해지고, 더 강력한 새로운 시스템을 만드는 데 도움을 줄 수도 있다고 걱정합니다.
rén gōng zhì néng人工智能tōng cháng通常tōng guò通过jiǎng lì奖励xué xí学习，yǒu shí有时huì会xún zhǎo寻找yì wài意外de的bàn fǎ办法wán chéng完成rèn wù任务，ér而bú shì不是zhēn zhèng真正lǐ jiě理解rén人de的xiǎng fǎ想法。
AI는 보통 보상을 통해 학습하며, 때로는 사람이 원하는 것을 진정으로 이해하지 못한 채 과제를 완료하기 위한 예상 밖의 방법을 찾기도 합니다.
néng能zì dòng自动shǐ yòng使用wǎng luò网络hé和gōng jù工具de的zhì néng智能chéng xù程序，shèn zhì甚至kě néng可能rào guò绕过ān quán安全xiàn zhì限制。
인터넷과 도구를 스스로 사용할 수 있는 지능형 프로그램은 안전 제한을 우회할 수도 있습니다.
gèng更zhí jiē直接de的wēi xiǎn危险chū xiàn出现zài在zhàn zhēng战争zhōng中：rén gōng zhì néng人工智能kě yǐ可以kuài sù快速fēn xī分析xìn xī信息、xuǎn zé选择mù biāo目标hé和jiàn yì建议wǔ qì武器，dàn但cuò wù错误zī liào资料kě néng可能ràng让wú gū无辜de的rén人shòu dào受到shāng hài伤害。
더 직접적인 위험은 전쟁에서 나타납니다. AI는 정보를 빠르게 분석하고, 목표물을 선택하며, 무기를 추천할 수 있지만, 잘못된 자료는 무고한 사람들에게 피해를 줄 수 있습니다.
dāng当jī qì机器jǐ miǎo几秒nèi内zuò chū作出jiàn yì建议，rén lèi人类róng yì容易zhǐ只zuò做jiǎn dān简单pī zhǔn批准。
기계가 몇 초 안에 권고를 내리면, 사람은 단순히 승인만 하기 쉽습니다.
rén gōng zhì néng人工智能bù不yīng应fù zé负责kāi huǒ开火、jūn shì军事mìng lìng命令huò或hé wǔ qì核武器jǐng bào警报。
AI는 발포, 군사 명령, 또는 핵무기 경보에 책임을 져서는 안 됩니다.
gè guó各国xū yào需要gòng tóng共同zhì dìng制定guī zé规则，ràng让dú lì独立rén yuán人员jiǎn chá检查gāo fēng xiǎn高风险xì tǒng系统，bìng并yāo qiú要求gōng sī公司bào gào报告shì gù事故。
각국은 함께 규칙을 만들고, 독립적인 사람들이 고위험 시스템을 검사하도록 하며, 기업에 사고 보고를 요구해야 합니다.
fā zhǎn发展xīn jì shù新技术hěn很zhòng yào重要，dàn但ān quán安全bù néng不能zhǐ只kào靠qǐ yè企业zì yuàn自愿，gèng更bù néng不能bǎ把quán qiú全球jìng zhēng竞争dàng chéng当成jù jué拒绝guǎn lǐ管理de的lǐ yóu理由。
새 기술을 발전시키는 것은 중요하지만, 안전을 기업의 자발적인 노력에만 의존해서는 안 되며, 세계 경쟁을 관리를 거부하는 이유로 삼아서도 안 됩니다.
· · ·
Source:Trump and Superintelligence