Stephen Hawking hat davor gewarnt, dass KI das Ende der Menschheit bedeuten könnte.

Technologie

Emma Colton, Fox News

1. Mai 2023 | 3:34 Uhr

Lange bevor Elon Musk und Apple-Mitbegründer Steve Wozniak einen Brief unterzeichneten, in dem davor gewarnt wurde, dass künstliche Intelligenz „tiefgreifende Risiken“ für die Menschheit berge, warnte der britische theoretische Physiker Stephen Hawking vor der schnell wachsenden Technologie.

„Die Entwicklung vollständiger künstlicher Intelligenz könnte das Ende der Menschheit bedeuten“, sagte Hawking 2014 der BBC.

Hawking starb 2018 im Alter von 76 Jahren, nachdem er über 55 Jahre an Amyotropher Lateralsklerose (ALS) gelitten hatte. Obwohl er KI kritisch gegenübersteht, verwendet er auch eine grundlegende Form der Technologie, um zu kommunizieren. Seine Krankheit, die seine Muskeln schwächt und Hocking dazu zwingt, einen Rollstuhl zu benutzen.

Bis 1985 war Hawking nicht mehr in der Lage zu sprechen und verließ sich auf verschiedene Kommunikationsmittel, darunter ein von Intel betriebenes Spracherzeugungsgerät, das es ihm ermöglichte, Gesichtsbewegungen zu verwenden, um Wörter oder Buchstaben auszuwählen, die in die Sprache integriert wurden.

Hawkings Kommentare gegenüber der BBC im Jahr 2014 waren eine Antwort auf eine Frage zur Überarbeitung der Sprachtechnologie, von der er glaubte, dass sie das Ende der Menschheit bedeuten könnte. Er sagte der BBC, dass sich die grundlegendsten Formen der KI bereits als leistungsfähig erwiesen haben, aber der Bau von Systemen, die mit der menschlichen Intelligenz konkurrieren oder sie übertreffen, wäre für die Menschheit katastrophal.

„Es hebt einfach ab und baut sich mit immer größerer Geschwindigkeit um“, sagte er.

„Menschen, die durch die langsame biologische Evolution eingeschränkt sind, können nicht konkurrieren und werden übertroffen“, fügte Hawking hinzu.

Ein paar Monate nach seinem Tod kam Hawkings letztes Buch auf den Markt. Sein Buch mit dem Titel „Kurze Antworten auf große Fragen“ lieferte den Lesern Antworten auf seine am häufigsten gestellten Fragen. Das Wissenschaftsbuch enthüllte Hawkings Argument gegen die Existenz Gottes, wie Menschen eines Tages im Weltraum leben könnten, und seine Befürchtungen über Gentechnik und globale Erwärmung.

Künstliche Intelligenz führte seine Liste der „großen Fragen“ an und argumentierte, dass Computer innerhalb von 100 Jahren „den Menschen in Intelligenz überholen“ würden.

„Wir stehen möglicherweise vor einer Intelligenzexplosion, die dazu führen wird, dass die Intelligenz von Maschinen die von Schnecken übertrifft“, schrieb er.

Er argumentierte, dass Computer darauf trainiert werden sollten, sich mit menschlichen Zielen zu verbinden, und dass es „unser schlimmster Fehler“ sei, die mit KI verbundenen Risiken nicht ernst zu nehmen.

„Es ist verlockend, die Idee superintelligenter Maschinen als reine Science-Fiction abzutun, aber das ist ein Fehler – und es ist unser schlimmster Fehler aller Zeiten.“

Hawkings Kommentare wurden dieses Jahr in einem im März veröffentlichten Brief des Technologieriesen Elon Musk und des Apple-Mitbegründers Steve Wozniak wiederholt. Die beiden Technologieführer unterzeichneten zusammen mit Tausenden anderer Experten einen Brief, in dem sie eine mindestens sechsmonatige Pause bei der Entwicklung von KI-Systemen über den GPT-4-Chatbot von OpenAI hinaus fordern.

„KI-Systeme mit mit Menschen konkurrierender Intelligenz könnten tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie umfangreiche Forschungen zeigen und von führenden KI-Laboren anerkannt werden“, heißt es in dem von der gemeinnützigen Organisation Future of Life veröffentlichten Schreiben.

ChatGPT von OpenAI wurde im Januar mit 100 Millionen aktiven Benutzern pro Monat zur am schnellsten wachsenden Benutzerbasis, da Menschen auf der ganzen Welt sich beeilten, den Chatbot zu übernehmen, der menschenähnliche Gespräche auf der Grundlage vorgegebener Stimuli simuliert. Das Labor veröffentlichte im März die neueste Iteration der Plattform, GPT-4.

Trotz Aufrufen, die Forschung in KI-Laboren auszusetzen, die an einer Technologie arbeiten, die GPT-4 übertrifft, war die Veröffentlichung des Systems ein Wendepunkt, der in der Technologiebranche nachhallte und verschiedene Unternehmen dazu veranlasste, bei der Entwicklung ihrer eigenen KI-Systeme zu konkurrieren.

Google überarbeitet auch seine Suchmaschine und erstellt eine neue, die auf KI basiert; Microsoft hat eine „neue Bing“-Suchmaschine geschaffen, die als „KI-gestützter Kopilot für das Web“ der Benutzer bezeichnet wird; Und Musk sagte, er lanciere ein konkurrierendes KI-System, das er als „Suche nach maximaler Wahrheit“ beschrieb.

Im Jahr vor seinem Tod riet Hawking, dass die Welt „lernen muss, sich auf die potenziellen Risiken vorzubereiten und diese zu vermeiden“, die mit KI verbunden sind, und argumentierte, dass die Systeme „das schlimmste Ereignis in der Geschichte unserer Zivilisation sein könnten“. Er stellte jedoch fest, dass die Zukunft noch unbekannt ist und KI für die Menschheit nützlich sein kann, wenn sie richtig trainiert wird.

„Der Erfolg bei der Schaffung einer kompetenten KI könnte das größte Ereignis in der Geschichte unserer Zivilisation sein. Oder das schlimmste. Wir wissen es nicht. Wir können also nicht wissen, ob uns die KI unendlich helfen oder ignoriert und an den Rand gedrängt werden wird. oder möglicherweise zerstört“, sagte er 2017 in Portugal. Hawking sagte auf der Technologiekonferenz des Web Summit.