Der OpenAI-Rivale Anthropic spricht sich schon länger für eine härtere Regulierung der KI-Entwicklung aus. Jetzt fordert Firmenchef Dario Amodei sogar eine Notbremse für die Regierung.
Der Chef der KI-Firma Anthropic hat sich dafür ausgesprochen, dass Regierungen gefährliche Künstliche Intelligenz stoppen können sollten. Leistungsstarke KI-Modelle müssten auf Risiken geprüft werden, forderte Dario Amodei in einem Blogbeitrag. Dabei solle es um Bereiche wie Cybersicherheit, Biowaffen und einen möglichen Verlust der Kontrolle über die Systeme gehen. Das umfasse auch eine automatisierte Weiterentwicklung der Software, die diese Risiken verstärken könnte.
Solche Untersuchungen könnten von einer Regierungsorganisation vorgenommen werden, die etwa einer Flugaufsicht ähnlich wäre, schrieb Amodei. Alternativ könnten es von der Regierung beauftragte private Prüfer sein. Anthropic spricht sich schon länger für eine stärkere Regulierung der KI-Industrie aus und wurde dafür bereits aus Teilen der KI-Branche und dem Weißen Haus kritisiert.
Anthropic ist mit seiner KI-Software Claude der schärfste Konkurrent des ChatGPT-Entwicklers OpenAI. Die Firma sorgte jüngst für Aufsehen mit dem KI-Modell Mythos, das zum Teil über Jahrzehnte unentdeckt gebliebene Schwachstellen in viel genutzter Software aufspüren kann. Das verstärkte die Sorge, dass Künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte.
