Wie sicher ist Künstliche Intelligenz (KI) – und kann man ihr immer vertrauen? Genau diese Frage treibt den kanadischen Informatik-Pionier Yoshua Bengio um, der als einer der „Godfathers of AI“ bezeichnet wird. Jetzt hat er eine neue gemeinnützige Organisation gegründet: LawZero. Ziel ist es, eine ehrliche und transparente KI zu entwickeln, die bewusst gegen Täuschungen und Manipulation durch Maschinen vorgeht.
Was steckt hinter LawZero?
LawZero ist eine Non-Profit-Organisation, die sich der Sicherheit und ethischen Entwicklung von KI-Systemen verschrieben hat. In einem Zeitalter, in dem KI-Systeme immer stärker in unseren Alltag eingreifen, will LawZero ein Gegengewicht setzen – mit Systemen, die erkennen können, ob eine andere KI die Wahrheit sagt oder Menschen in die Irre führen will.
Bengios Ziel: eine KI mit moralischem Kompass
Yoshua Bengio warnt schon seit Jahren vor den Gefahren unregulierter KI-Entwicklung. Besonders Sorgen bereitet ihm die Fähigkeit moderner KI, Menschen zu täuschen – etwa durch gefälschte Texte, Bilder oder sogar Stimmen. Seine Vision ist eine KI, die:
- Menschenrechte respektiert
- Transparenz bei Entscheidungen bietet
- andere KI-Systeme kritisch hinterfragt
- aktiv Täuschungsversuche erkennt
Aktuell arbeitet LawZero an ersten Prototypen, die in bestehenden KI-Plattformen integriert werden könnten – als moralisches, digitales Gewissen für Maschinen.
Warum ist das Thema so wichtig?
Mit dem rasanten KI-Wettlauf – besonders im Zusammenhang mit Milliardeninvestitionen großer Tech-Konzerne – wächst auch das Risiko für Missbrauch. KI kann beispielsweise für politische Manipulation, Deepfakes oder gezielte Meinungslenkung genutzt werden. Hier setzt LawZero an: Seine Algorithmen sollen eine Art künstliches Korrektiv darstellen – und langfristig sogar Gesetzgeben inspirierten.
Ein globales Ziel mit offenen Prinzipien
LawZero setzt auf Open Source: Der Code soll öffentlich nutzbar sein, Universitäten und Entwickler bekommen freien Zugang. Damit geht Bengios Team bewusst einen anderen Weg als viele kommerzielle KI-Unternehmen, die Systeme im Verborgenen entwickeln und betreiben.
„Wir brauchen eine KI, die sagt, wenn etwas falsch läuft – auch wenn das unangenehm ist“, so Bengio in einem aktuellen Interview.
Mehr zum Thema KI-Tools und Automatisierung finden Sie in unserem Blog.
