KI-Philosophie-Serie: Das Denken nicht den Suchmaschinen überlassen

Von Choekyel Nyungmartsang Student des Studiengangs Artificial Intelligence & Machine Learning

KI, Kunst und Kritik: Studierende schreiben Essays über philosophisch-ethische Fragen rund um die Künstliche Intelligenz (KI). Etwa darüber, wie die KI gewisser Tech-Giganten unsere Gesellschaft polarisiert, indem sie uns in einen Teufelskreis führt. Mehr dazu in dieser letzten Folge unserer 8-teiligen KI-Philosophie-Serie.

Künstliche Intelligenz (KI) hat längst Einzug in unzählige unserer Lebensbereiche gehalten. So wird unter anderem der Grossteil unserer Suchanfragen durch ein neuronales Netzwerk geleitet, um die Resultate penibel auf unsere Wünsche, Bedürfnisse und Interessen abzustimmen. Dabei spielt der immense Daten-Fussabdruck, den wir im Internet hinterlassen, eine grosse Rolle.

Je mehr die Tech-Giganten über uns wissen, desto akkurater erscheinen die Inhalte, die sie uns anzeigen. Auch soziale Medien haben das enorme Potenzial der KI-gestützten Such- und Empfehlungsalgorithmen erkannt.

Empfehlungsalgorithmen schaffen einen Teufelskreis.

Auf den ersten Blick scheint es unproblematisch, dass sie uns nur das anzeigen, was unseren eigenen Interessen entspricht – besonders in einer Zeit, in der man die Flut an Informationen kaum mehr bewältigen kann.

Doch diese Bequemlichkeit hat auch eine negative Seite: Sie führt zu einer schleichenden Polarisierung und Extremisierung der Gesellschaft.

Fake News auf dem Silbertablett

Für die Tech-Giganten ist es wichtig, ihre Benutzerinnen und Benutzer so lange wie möglich an sich zu binden. Dazu nutzen sie das Konzept der kognitiven Dissonanz: Dieses besagt, dass Menschen dazu neigen, Informationen, die ihren Ansichten entsprechen, bevorzugt wahrzunehmen und sich an diese auch besser zu erinnern.

Dieser Effekt hält jedoch nicht lange an. Damit die BenutzerInnen nicht abspringen, muss ihnen ein extremerer Inhalt gezeigt werden. Die Algorithmen unterscheiden dabei nicht, ob es sich um legitime Inhalte oder um sogenannte «Fake News» handelt. Damit schaffen sie einen Teufelskreis.

Die selektive Auswahl und die Zensur von Inhalten führen zu einer Polarisierung der Gesellschaft. Davon sind einige soziale Gruppen eher betroffen als andere. Menschen, welche ein geringes Bildungsniveau aufweisen, werden eher Opfer des Dunning-Kruger-Effekts.

Durch Algorithmen gelenkt, geraten sie vermehrt an suspekte Informationen, welche sie jedoch nicht hinterfragen. Dabei bestätigen sich ihre Annahmen zwangsläufig in einer Art selbsterfüllenden Prophezeiung. Durch die Vernetzung des Internets können die Betroffenen weltweit mit Gleichgesinnten kommunizieren.

Wir Menschen sind alle empfänglich für die psychologischen Dispositionen, welche die KI benutzt.

Auf diese Weise spitzt sich der Effekt stetig zu. Da alternative Inhalte zu Vergleichszwecken fehlen, kommt es zu einer Polarisierung. Ein Beispiel für dieses moderne Phänomen sind Gruppen wie die «Flat Earther», die in ihrer Verschwörungstheorie behaupten, dass die Erde flach sei.

Sanktionen könnten die Irrfahrt stoppen

Die unangenehmen Nebeneffekte dieser Technologie sind heutzutage allgegenwärtig. Zu denken, man sei selbst nicht betroffen, wäre ein Trugschluss. Wir Menschen sind alle empfänglich für die psychologischen Dispositionen, welche die KI benutzt.

Es wäre der falsche Ansatz, Fehler in der menschlichen Psyche zu suchen. Vielmehr müssen wir unseren Blick auf die fraglichen Geschäftsmodelle der Tech-Giganten richten. Damit es nicht zu irreversiblen Schäden kommt, werden in Zukunft Sanktionen erforderlich sein. Sonst ist das Ende unserer Irrfahrt noch in weiter Ferne.

Bildung und eigenständiges Denken fördern

Selbst wenn das erwähnte Geschäftsmodell zunehmend kritisch betrachtet oder sogar verboten würde: Wir sind auch in Zukunft auf KI-gestützte Such- und Empfehlungsalgorithmen angewiesen. Wie eine Studie gezeigt hat, ist der beste Schutz gegen eine fortwährende Polarisierung ein hohes formales Bildungsniveau der Gesellschaft. Wir dürfen daher das Denken und Recherchieren nicht den Maschinen überlassen. Das eigene Denken wird wichtiger denn je!

Weiterführende Literatur: Festinger, Leon (1957). Die Theorie der kognitiven Dissonanz

Frage in die Runde: Welche weiteren Lösungsansätze sehen Sie? Was muss getan werden, um der Polarisierung der Gesellschaft entgegenzuwirken? Bitte schreiben Sie Ihren Kommentar hier zuunterst in die Kommentarspalte.

Veröffentlicht am 30. Dezember 2022

Lesen Sie weitere Folgen unserer KI-Philosophie-Serie:

• Folge 1: Auch Roboter brauchen Rechte
• Folge 2: Pflegeroboter dienen gut, doch ohne Herz
• Folge 3: Unfreie Roboter – unfreie Menschen
• Folge 4: Die Krux mit den rückständigen Algorithmen
• Folge 5: Ist künstliche Intelligenz intelligent?
• Folge 6: Rassismus per Software
• Folge 7: Im Bann der Netze