Moratorium

Unter dem Titel “Pause Giant AI Experiments: An Open Letter” haben zahlreiche Prominente und Forscher einen Offenen Brief veröffentlicht, der einen Stop aller AI Experimente für 6 Monate fordert. Dennoch kann man das nicht einfach also eine Variante von “German Angst” abtun, die anscheinend auch außerhalb von Deutschland zu existieren scheint, denn unter den Unterzeichnern sind so namhafte KI-Forscher wie Yoshua Bengio, Yuval Noah Harari, Jaan Tallinn, Stuart Russell, Max Tegmark, Ernie Davis, Gary Marcus usw. Viele deutsche Journalisten, die normalerweise stets Technologiefolgenabschätzung befürworten, stehen nun vor dem Dilemma, daß sie einen Aufruf gut finden (müssen?), den auch Elon Musk als Erstunterzeichner mitinitiiert hat und Elon Musk ist ja in Rekordzeit vom Guten (Elektroautos!) zum Bösen mutiert (rechts), aber mich ficht das ja nicht an. Allerdings finde ich den Offenen Brief inhaltlich problematisch. Die Autoren schreiben:

Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable. […] AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.

Bei neuen Technologien ist nie klar, daß ihr Einsatz immer positive Effekte auf die Gesellschaft haben wird, und es besteht auch keine Einigkeit darüber, was überhaupt “positiv” ist! Das war auch in der Vergangenheit mit allen Erfindungen so. Und unser Verständnis der Funktionsweise von KI-Systemen ist so bescheiden, daß ich bezweifle, ob Experten in 6 Monaten dazu in der Lage sein werden, sicherzustellen, daß KI Systeme zweifelsfrei sicher sein werden - zur Zeit verstehen wir noch nicht einmal die mathematischen Grundlagen von Attention und Stochastic Gradient Descent. Und wieso 6 Monate? Scott Aaronson kommentiert dazu leicht zynisch:

I realized that, while six months might not suffice to save human civilization, it’s just enough for the more immediate concern of getting papers into academic AI conferences.”

Tja, also viele Fragen bleiben offen. Aber spannend bleibt’s. Wer mehr wissen will, soll in meine Vorlesung “Learning From Data” kommen.