UHR: KI-„Pate“ Geoffrey Hinton erzählt BBC von KI-Gefahren, als er Google verlässt
Ein Mann, der weithin als Vater der künstlichen Intelligenz (KI) gilt, hat seinen Job gekündigt, nachdem er vor den Gefahren gewarnt hatte, die von den Entwicklungen auf diesem Gebiet ausgehen.
Jeffrey Hinton, 75, gab in einer Erklärung gegenüber der New York Times seinen Rücktritt von Google bekannt und sagte, er bedauere jetzt seine Arbeit.
Er sagte der BBC, dass einige der Risiken von KI-Chatbots „sehr beängstigend“ seien.
„Im Moment sind sie nicht schlauer als wir, soweit ich das beurteilen kann. Aber ich denke, sie könnten es bald sein.“
Dr. Hintons bahnbrechende Forschung zu Deep Learning und neuronalen Netzen ebnete den Weg für aktuelle KI-Systeme wie ChatGPT.
Aber der britisch-kanadische Kognitionspsychologe und Informatiker sagte der BBC, dass Chatbots bald die Informationen des menschlichen Gehirns überholen könnten.
„Was wir jetzt sehen, ist, dass GPT-4 den gesunden Menschenverstand einer Person in den Schatten stellt und sie bei weitem in den Schatten stellt. In Bezug auf die Argumentation ist es nicht so gut, aber es tut es bereits. Einfache Argumentation.
„Und angesichts der Fortschrittsrate erwarten wir, dass sich die Dinge sehr schnell verbessern werden. Also sollten wir uns darüber Sorgen machen.“
In dem Artikel der New York Times bezog sich Dr. Hinton auf „schlechte Schauspieler“, die versuchten, KI für „schlechte Taten“ einzusetzen.
Auf Nachfrage der BBC antwortete er: „Es ist eine Art Worst-Case-Szenario, eine Art Alptraumszenario.
„Man kann sich zum Beispiel einige schlechte Schauspieler vorstellen [Russian President Vladimir] Putin beschloss, Robotern die Möglichkeit zu geben, ihre eigenen Unterziele zu erstellen.“
Daraus können schließlich „Unterziele wie ‚Ich will mehr Macht‘ entstehen“, warnte der Wissenschaftler.
Er fügte hinzu: „Ich bin zu dem Schluss gekommen, dass sich die Intelligenz, die wir entwickeln, sehr von der Intelligenz unterscheidet, die wir haben.
„Wir sind biologische Systeme und dies sind digitale Systeme. Und der große Unterschied besteht darin, dass es bei digitalen Systemen mehrere Kopien des gleichen Gewichts, des gleichen Modells der Welt gibt.
„Und all diese Nachbildungen können individuell lernen, aber ihr Wissen sofort teilen. Es ist also, als hätte man 10.000 Leute, und wenn einer etwas lernt, weiß es automatisch jeder. Und diese Chatbots können mehr lernen als jede einzelne Person.“
Dr. Hinton sagte auch, es gebe andere Gründe, seinen Job aufzugeben.
„Erstens bin ich 75. Es ist also an der Zeit, in den Ruhestand zu gehen. Zweitens möchte ich ein paar gute Dinge über Google sagen. Und sie sind sehr glaubwürdig, wenn ich nicht bei Google gearbeitet hätte.“
Er wollte Google nicht kritisieren und beharrte darauf, dass der Tech-Riese „sehr verantwortungsvoll“ gehandelt habe.
Siehe: Was ist künstliche Intelligenz?
