{"id":8186,"date":"2020-06-03T10:03:07","date_gmt":"2020-06-03T08:03:07","guid":{"rendered":"https:\/\/hub.hslu.ch\/informatik\/?p=8186"},"modified":"2026-02-20T10:51:23","modified_gmt":"2026-02-20T09:51:23","slug":"kunstliche-intelligenz-gibt-es-nicht-wichtig-ist-digitale-ethik","status":"publish","type":"post","link":"https:\/\/hub.hslu.ch\/informatik\/kunstliche-intelligenz-gibt-es-nicht-wichtig-ist-digitale-ethik\/","title":{"rendered":"\u00abK\u00fcnstliche Intelligenz gibt es eigentlich nicht\u00bb"},"content":{"rendered":"\n

Von Gabriela Bonin<\/a><\/p>\n\n\n\n

<\/h2>\n\n\n\n
Hier aufklappen und Aktualisierung vom Dezember 2023 lesen: Wie umgehen mit Risiken? \u00abEs braucht mehr Bildung im Umgang mit KI-Themen\u00bb<\/strong><\/summary>
\n

Ende 2023 aktualisieren wir dieses Interview. Denn mittlerweile demonstriert ChatGPT<\/a> einer breiten \u00d6ffentlichkeit die Fortschritte generativer K\u00fcnstlicher Intelligenz. Das freut die einen und \u00e4ngstigt die anderen. Derzeit fordern \u00fcber 3000 Unterzeichnende, CEOs und f\u00fchrende Forschende in einem offenen Brief<\/a> eine sechsmonatige Entwicklungspause f\u00fcr das Training von KI-Systemen. Zunehmend wird vor dem sogenannten Alignment-Problem<\/a> gewarnt, der Gefahr, dass zuk\u00fcnftige KI-Systeme die menschliche Zivilisation bedrohen k\u00f6nnten.<\/p>\n\n\n\n

Frau Pooyan-Weihs, was entgegnen Sie heute jenen, die vor einer bedrohlichen K\u00fcnstlichen allgemeinen Intelligenz (<\/strong>AGI<\/strong><\/a>) warnen?<\/strong><\/p>\n\n\n\n

Man muss m\u00f6gliche Gefahren ernst nehmen. Das Thema ist wichtig. Das zeigt allein schon der KI-Gipfel<\/a> zur Sicherheit von k\u00fcnstlicher Intelligenz, der im November 2023 im historisch bedeutsamen Bletchley Park<\/a> im Norden von London stattfand. W\u00e4hrend des Zweiten Weltkriegs war dieses Landgut das emblematische Entschl\u00fcsselungszentrum f\u00fcr Codes. An diesem KI-Gipfel beteiligten sich Leute mit Macht, Rang und Namen. Die EU will KI<\/a> regulieren. Gleichzeitig erarbeitet der Europarat KI-Rahmenbedingungen<\/a>. Ich begr\u00fcsse das und pl\u00e4diere f\u00fcr Regulierungen.<\/p>\n\n\n\n

Auch unterst\u00fctze ich den Vorschlag der Universit\u00e4t Luzern<\/a>, eine Internationale Agentur f\u00fcr datenbasierte Systeme (IDA<\/a>) zu gr\u00fcnden. Dies bei der Uno als Zulassungsbeh\u00f6rde. Datenbasierte Systeme sollen die Menschenrechte einhalten. Einerseits ist es erfreulich, wie fortgeschritten KI-Forschung und -Entwicklung sind. Andererseits m\u00fcssen wir uns um ihre sichere und friedliche Nutzung bem\u00fchen. Eine IDA k\u00f6nnte \u00e4hnlich wirken wie die Internationalen Atomenergiebeh\u00f6rde (IAEA)<\/a> im Nuklearbereich.<\/p>\n\n\n\n

Haben Sie den <\/em><\/strong>offenen Brief<\/em><\/strong> von tausenden KI-Fachleuten auch unterzeichnet?<\/em><\/strong><\/p>\n\n\n\n

Nein. Ich denke, dahinter steckt eine andere Absicht. Es wird so getan, als ob wir vor einer nicht begreifbaren wissenschaftlichen Entwicklung stehen, die sich rasant entwickelt. Dabei basiert sie auf langj\u00e4hriger Forschung. Justine Cassel<\/a> arbeitet seit 29 Jahren an einem Embodied Conversational Agent <\/a>(ECA), einen virtuellen \u00abMenschen\u00bb, der mit Menschen interagieren kann. Ihr \u00abvirtuelles Kind\u00bb hat autistischen Kindern geholfen, ihre sozialen F\u00e4higkeiten weiterzuentwickeln.<\/p>\n\n\n\n

Dieser Brief lenkt von den eigentlichen Problemen ab. Er verweist auf k\u00fcnftige Gefahren, zeichnet das Schreckensbild von Super-KI-Intelligenzen, die dereinst die Menschheit vernichten k\u00f6nnten. Stattdessen sollten wir uns auf die aktuellen, realen Probleme und Herausforderungen konzentrieren.<\/p>\n\n\n\n

Welche aktuellen Probleme gilt es anzupacken?<\/em><\/strong><\/p>\n\n\n\n

Wir sollen uns um den Schutz unserer privater Daten und unserer Privatsph\u00e4re k\u00fcmmern. Grosse Tech-Konzerne verdienen sehr viel Geld daran und es ist kein Geheimnis, dass sie uns damit schaden. KI beschleunigt die Verbreitung von Fake News. Das bedroht demokratische Werte. Im KI-Systemen werden bestehende gesellschaftliche Diskriminierungen verst\u00e4rkt. All das muss meiner Meinung nach angegangen werden. Die italienische Datenschutzbeh\u00f6rde liess im Fr\u00fchling 2023 ChatGPT vor\u00fcbergehend sperren. Denn ChatGPT sammelt und verarbeitet grosse Mengen an pers\u00f6nlichen Daten. Geraten diese Daten in falsche H\u00e4nde, k\u00f6nnen sie f\u00fcr illegale oder b\u00f6sartige Zwecke missbraucht werden.<\/p>\n\n\n\n

Das sind aus meiner Sicht die wahren, aktuellen Probleme. Davor muss man die Menschen sch\u00fctzen, nicht vor futuristischen Schreckens-Szenarien.<\/p>\n\n\n\n

Die grossen globalen Tech-Konzerne betreiben viel Lobbying, um ihre Interessen zu vertreten. Es geht um sehr viel Geld und Macht. Ich denke, sie wollen bei Regulierungen mitreden, um diese zu schw\u00e4chen. Darum sage ich, der offene Brief ist ein Ablenkungsman\u00f6ver. Es gibt ein Machtgef\u00e4lle zwischen diesen Tech-Unternehmen und den Staaten. Mit griffigen KI-Regulationen l\u00e4sst sich kein Geld verdienen. Deshalb schicken die Firmen Leute nach Br\u00fcssel oder London. Sie lobbyieren daf\u00fcr, KI-Regulationen so oberfl\u00e4chlich wie nur m\u00f6glich zu gestalten.<\/p>\n\n\n\n

Wenn so viele Fachleute vor Gefahren warnen, muss was Wahres dran sein, oder nicht?<\/em><\/strong><\/p>\n\n\n\n

Die Sache ist komplex. Selbstverst\u00e4ndlich muss man daf\u00fcr sorgen, dass diese Technologie den Menschen n\u00fctzt und nicht schadet. Aber schauen wir mal genauer hin: ChatGPT zum Beispiel ist ohne Zweifel ein Meilenstein in der KI-Entwicklung. Auch die neuen Modelle zur generativen Bilderzeugung liefern beeindruckende Resultate.<\/p>\n\n\n\n

Denken wir aber daran, wie sie funktionieren: Sie basieren auf einer Kombination von Semisupervised und Reinforcement Learing<\/a>: Dieses teil\u00fcberwachte und best\u00e4rkende Lernen funktioniert nur mit sehr viel menschlichem Einsatz. Menschen trainieren diese Systeme mit grossem Aufwand. Ihr Erfolg basiert auf menschlichem Einsatz.<\/p>\n\n\n\n

Hinter einer KI, die Bilder entwickelt steckt keine Kreativit\u00e4t \u2013 sondern schlicht Training. Sie wurde gezielt berechnet. Das basiert auf fantastischer menschlicher und rechnerischer Leistung, aber nicht auf einem Bewusstsein.<\/p>\n\n\n\n

Technische Fortschritte sind erfreulich, aber oft missverstanden, wie etwa die Behauptung, KI k\u00f6nne Krankheiten heilen. Vielmehr werden KIs gezielt auf eine bestimmte Problemstellung hin programmiert. Sie sind pr\u00e4ziser, schneller, unerm\u00fcdlicher als Menschen. Sie haben kein Bewusstsein, keine Moralf\u00e4higkeit und vieles mehr, das uns Menschen ausmacht.  <\/p>\n\n\n\n

Chatbots wie ChatGPT werden so trainiert, dass sie menschlich wirken.<\/em><\/strong><\/p>\n\n\n\n

Ja, und da muss man gut aufpassen. Diese KI-Modell werden mit neurowissenschaftlicher Expertise auf Plausibilit\u00e4t hintrainiert. Etwas, das plausibel klingt, ist aber noch nicht unbedingt wahr und richtig. Wir Menschen m\u00fcssen das verstehen, wenn wir sicher mit diesen Maschinen zusammenarbeiten wollen. Wir m\u00fcssen lernen, zwischen richtig, falsch und plausibel zu unterscheiden. Es gilt, das kritische Denken zu f\u00f6rdern.<\/p>\n\n\n\n

Da sind die Bildungsinstitute gefragt. Es ist n\u00f6tig, mehr Bildung und Sensibilit\u00e4t im Umgang mit KI-Systemen zu f\u00f6rdern.<\/p>\n<\/div><\/details><\/div>\n\n\n\n

\n