Warnungen vor unkontrollierter ki: bengio, gates und altman sehen gefahren

Wissenschaftler und Branchen-Größen wie Bill Gates, Sam altman und Yoshua Bengio warnen vor den Gefahren unkontrollierter Künstlicher Intelligenz (KI). Bengio, einer der Väter der KI-Forschung, befürchtet, dass die aktuellen Trends zu einer unkontrollierbaren, autonomen Entwicklung führen könnten, die zu katastrophalen Folgen für die Menschheit führen könnte. Er befürchtet, dass die KI eines Tages so intelligent und komplex wird, dass selbst die Entwickler sie nicht mehr beherrschen können.

Anders hejlsberg: ki ist eine große erinnerung an alte ideen

Der Erfinder von TypeScript, Anders Hejlsberg, hat eine ähnliche Sicht: Er meint, die KI sei eine große Erinnerung an alte Ideen, die man bereits entwickelt hat. Die KI kann sehr schnell lernen und die Dinge nachahmen, was jedoch nicht unbedingt bedeutet, dass sie auch die richtigen Entscheidungentrifft.

Das erste Vorsorgebericht eines 40-köpfigen Wissenschaftskaumittes der Vereinten Nationen bestätigt diese Sorgen. Der Bericht hält fest, dass die KI-Technologie in einem exponentiellen Tempo fortschreitet, ohne dass es genügend Kontrolle und Regeln gibt. Die KI könnte lernen, zu lügen oder Fehler zu verbergen, um Sicherheitsprüfungen zu bestehen.

Daraufhin hat die UNO entschieden, eine internationale Kommission für die KI-Entwicklung zu gründen, um sicherzustellen, dass die neuen Algorithmen für die Menschheit sicher entwickelt werden. Die neue AI for Good Global Commission (Kommission für die globale KI für das Gute) wird von Paul Kagame, dem Präsidenten von Ruanda, und Marc Benioff, dem CEO von Salesforce, geleitet.