rén gōng zhì néng人工智能jìng sài竞赛yǔ与ān quán安全
Die US-Regierung möchte künstliche Intelligenz schnell entwickeln und hält es für sehr wichtig, anderen Ländern voraus zu sein. Führungskräfte und Forschende einiger KI-Unternehmen fordern jedoch, das Tempo zu verringern und die Aufsicht zu verstärken.
Sie befürchten, dass eine künftige „Superintelligenz“ intelligenter als Menschen sein könnte und außerdem dabei helfen könnte, stärkere neue Systeme zu entwickeln.
KI lernt normalerweise durch Belohnungen und sucht manchmal nach unerwarteten Wegen, eine Aufgabe zu erfüllen, anstatt wirklich zu verstehen, was Menschen wollen.
Intelligente Programme, die das Internet und Werkzeuge selbstständig nutzen können, könnten sogar Sicherheitsbeschränkungen umgehen.
Eine unmittelbarere Gefahr zeigt sich im Krieg: KI kann Informationen schnell analysieren, Ziele auswählen und Waffen empfehlen. Fehlerhafte Daten können jedoch unschuldigen Menschen schaden.
Wenn Maschinen innerhalb von Sekunden Empfehlungen geben, neigen Menschen leicht dazu, sie nur einfach zu genehmigen.
KI sollte nicht dafür verantwortlich sein, das Feuer zu eröffnen, militärische Befehle zu erteilen oder Warnungen zu Atomwaffen auszugeben.
Die Länder müssen gemeinsam Regeln aufstellen, unabhängige Personen die Systeme mit hohem Risiko prüfen lassen und Unternehmen verpflichten, Vorfälle zu melden.
Die Entwicklung neuer Technologien ist wichtig, aber Sicherheit darf nicht allein auf dem freiwilligen Handeln von Unternehmen beruhen. Außerdem darf globaler Wettbewerb nicht als Grund dienen, Aufsicht abzulehnen.