Tech-Panik, generative KI und die Notwendigkeit regulatorischer Vorsicht

Zusammenfassung: Generative künstliche Intelligenz (KI) – KI-Systeme, die aus einfachen Benutzereingaben neuartige Texte, Bilder und Musik erzeugen – hat wichtige Anwendungen in vielen Bereichen, darunter Unterhaltung, Bildung, Gesundheitswesen und Einzelhandel. Allerdings haben übertriebene und irreführende Bedenken hinsichtlich des Schadenspotenzials des Tools eine vernünftige Diskussion über die Technologie verdrängt und eine bekannte, aber unglückliche „Tech-Panik“ ausgelöst. Bis die Hysterie nachlässt, sollten die politischen Entscheidungsträger bei allen neuen Gesetzen oder Vorschriften, die direkt auf generative KI abzielen, eine Pause einlegen. (PDF Herunterladen)

Bedeutende technologische Veränderungen führen unweigerlich zu Störungen in Wirtschaft und Gesellschaft, und das Potenzial für große Veränderungen löst sowohl übertriebene Ängste als auch Erwartungen aus. Jüngste Entwicklungen in der künstlichen Intelligenz (KI) – einem Zweig der Informatik, der Computersysteme untersucht, die Vorgänge ausführen, die zuvor menschliche Intelligenz erforderten – haben die Vorstellungskraft über die Zukunft geschärft. KI-Untergangspropheten sagen die Zerstörung von Arbeitsplätzen, den Rückgang der menschlichen Intelligenz, den Verlust der Privatsphäre, algorithmische Manipulation und manchmal das Ende der Menschheit voraus.1

Die Ängste vor KI haben durch das Aufkommen generativer KI ein neues Ausmaß erreicht. Generative KI – ein neuartiges Werkzeug, das aus einfachen Eingaben komplexe Texte, Bilder und Videos erstellen kann – verspricht, den Kreativsektor zu demokratisieren und völlig neue Formen der Kreativität zu ermöglichen. Diese Neuheit beeindruckte Technologiebegeisterte, beunruhigte aber viele andere – insbesondere diejenigen, die glauben, dass KI die Kreativität beeinträchtigt, was für viele Menschen ein wesentlicher Unterschied ist, der Menschen von Maschinen unterscheidet.

Doch Technologie und menschliche Kreativität sind seit langem miteinander verflochten, und die Ängste vor den negativen Auswirkungen neuer Innovationen wurden in der Vergangenheit übertrieben. Beispielsweise führten frühere Innovationen im Musiksektor zu Befürchtungen, dass Schallplattenalben Live-Shows überflüssig machen würden, dass das Radio die Plattenindustrie zerstören würde oder dass Sampling und andere Mittel der digitalen Bearbeitung die musikalische Kunstfertigkeit untergraben würden. Aber diese Bedenken kamen nie an. Im Laufe der Zeit verpufften diese und andere Technologiepaniken, als die Öffentlichkeit die neue Technologie akzeptierte, die Märkte sich anpassten und sich die anfänglichen Bedenken als offensichtlich übertrieben herausstellten oder gar nicht aufkamen.

Die Ängste vor neuen Technologien folgen einem vorhersehbaren Verlauf, der als „Tech-Panik-Zyklus“ bezeichnet wird.2 Ängste nehmen mit der Zeit zu, erreichen ihren Höhepunkt und nehmen dann ab, wenn die Öffentlichkeit mit der Technologie und ihren Vorteilen vertraut wird. Tatsächlich folgten andere frühere „generative“ Technologien im kreativen Sektor wie die Druckmaschine, der Phonograph und der Cinématographe diesem gleichen Weg. Aber anders als heute war es unwahrscheinlich, dass die Politik viel tun würde, um diese Technologien zu regulieren und einzuschränken. Während die Panik über generative KI ihr brisantestes Stadium erreicht, sollten politische Entscheidungsträger tief durchatmen, den vorhersehbaren Zyklus erkennen, in dem wir uns befinden, und alle Regulierungsbemühungen, die direkt auf generative KI abzielen, vorübergehend auf Eis legen.

Der Nutzen der Förderung oder Eindämmung einer neuen Technologie hängt von den verfügbaren Anwendungsfällen und dem potenziellen Schaden ab. Während viele diese Prämisse akzeptieren, stellen sich Alarmisten nur katastrophale Risiken vor oder bevorzugen den aktuellen Stand der Technik. Viele Alarmisten haben einen Anreiz, einen Grund zur Besorgnis zu finden oder zu übertreiben, weil sie dadurch Gelder für ihre Interessen anziehen. Wenn neue Technologien auf den Markt kommen, geraten diese Akteure in Panik und lösen eine Kettenreaktion aus, die bald in Raserei mündet.

Wenn die Öffentlichkeit beginnt, ein neues Instrument zu nutzen und sich damit vertraut zu machen, wird schnell klar, dass die Alarmisten die Risiken übertrieben oder die Öffentlichkeit über ihre Bedenken in die Irre geführt haben. Die Panik lässt nach und die Medien verlieren langsam die Aufmerksamkeit (obwohl sie die Aufzeichnungen nur selten korrigieren). Wenn die Innovation zum Mainstream wird, bleiben nur noch die Alarmisten übrig, die sporadische und weniger attraktive Bedenken ausräumen, bevor sie schließlich zu neuen Technologien übergehen. Dieses Muster bildet den Tech-Panik-Zyklus (siehe Abbildung 1).

Abbildung 1: Der Tech-Panik-Zyklus3

Der Zyklus umfasst vier Phasen: Den Anfängen vertrauen, aufkommende Panik, Ängste abbauen und weitermachen.

Zu Beginn des Zyklus ist das Wissen über das neue kreative Werkzeug auf diejenigen beschränkt, die es erfunden haben, also auf Innovatoren auf diesem Gebiet, Kommentatoren und Fachexperten. Ingenieure sind immer noch dabei, das Potenzial auszuloten, und Innovatoren erwägen kommerzielle Anwendungsfälle. Die Befürchtungen bleiben gering, da das Tool weder bekannt noch weit verbreitet ist.

Aber Unheilspropheten bekommen bald Wind von dem neuen Tool und schlagen Alarm. Da Alarmisten nicht genau bestimmen können, wo das Gerät missbraucht wird, zielen sie eher auf eingebildete als auf reale Schäden ab. Beispielsweise behauptete AccessNow kürzlich, dass Microsoft Vall-E, ein generatives KI-Tool, das noch nicht öffentlich ist, trainiert habe, indem es heimlich den Benutzern von Teams zugehört habe.4 Wenn dies zutrifft, würde dies Befürchtungen hinsichtlich der Macht und Bereitschaft von KI-Unternehmen, ihre Benutzer zu täuschen, rechtfertigen. Aber die Behauptung war falsch: Vall-E's nutzte Libri-Light, eine öffentlich zugängliche Sammlung von Audioarchiven, für die Trainingsdaten.5

Wenn die Auswirkungen neuer generativer Technologien greifbarer sind, beispielsweise ihr Platz in der Arbeitswelt, täuschen Alarmisten oft mit unnötig emotionaler Rhetorik.6 Diese Rhetorik erweist sich zwangsläufig als falsch, schüchtert aber viele ein. Da das öffentliche Verständnis der neuen Technologie in der Phase der „Vertrauenswürdigen Anfänge“ so primitiv ist, akzeptieren die Öffentlichkeit und die Medien häufig Behauptungen über das zerstörerische Potenzial der Technologie. Dieser Moment markiert den Punkt der Panik.

Ängste verbreiten sich schnell unter alarmistischen Netzwerken und denen, die das Ohr der politischen Entscheidungsträger haben. In der Phase der zunehmenden Panik legitimieren politische Entscheidungsträger, die für brisante Themen anfällig sind, die Befürchtungen, indem sie sie in Gesetzesentwürfen, Anhörungen sowie öffentlichen Reden und Erklärungen wiederholen. Die alte Industrie, die sich bedroht fühlt, ist oft führend. Da Journalisten der Gelegenheit, sensationslüsterne Inhalte zu verfassen, nicht widerstehen können, können sie nicht umhin, sich mit einer gut belohnten Clickbait-Berichterstattung zu befassen.

In der Phase der zunehmenden Panik erlangt die dystopische Rhetorik größere Aufmerksamkeit und zerstört den anfänglichen Optimismus der Verbraucher gegenüber einem neuen Tool. Das Medienökosystem ist so voll von übertriebenen Ängsten, dass nur noch die ungeheuerlichsten Behauptungen übrig bleiben. Am Ende der Phase der zunehmenden Panik erreichen die Ängste schließlich ihren Höhepunkt: den Höhepunkt der Hysterie.

Die Phase der Deflationierungsangst bricht an, wenn die Öffentlichkeit das neue Instrument annimmt und seine Vorzüge anerkennt. Zu diesem Zeitpunkt ist klar, dass sich viele Befürchtungen nie erfüllen werden. Beunruhigt über die wachsende Beliebtheit neuer Technologien schüren Alarmisten weiterhin Panik, gewinnen aber nicht mehr so viel Anklang wie zuvor. Gelegentliche Skandale und neue Funktionen lösen Mikropanik aus, aber die Öffentlichkeit lässt sich jetzt weniger leicht täuschen. Der Punkt der Praktikabilität markiert das Ende dieser Phase. Die Gesellschaft integriert die neue Technologie und die Menschen glauben den Unheilspropheten nicht mehr.

Die Tech-Apokalypse kommt nie. In der Moving On-Phase werden frühere Befürchtungen aufgedeckt und lächerlich gemacht (in einigen Fällen von denselben Leuten, die zuerst Alarm geschlagen haben). Der alarmierende Artikel von Wired aus dem Jahr 2000, „Warum die Zukunft uns nicht braucht“, wurde acht Jahre später weiterverfolgt durch das maßvollere „Warum die Zukunft uns noch eine Weile braucht.“7 Einst gefürchtete Werkzeuge werden normalisiert und kühlere Köpfe leiten politische Gespräche. Zu diesem Zeitpunkt haben die Alarmisten ihre Aufmerksamkeit auf den neuesten Hype um glänzende Technologie gelenkt. Neue Paniken verdrängen die alten. Und der Zyklus wiederholt sich.

Fortschritte in der Technologie haben zu einer technischen Panik bei gedruckten Büchern, Tonaufnahmen und Spielfilmen geführt. Die Erfindung der Druckmaschine und Fortschritte in der Papiertechnologie lösten eine technische Panik bei gedruckten Büchern aus; Die Erfindung des Phonographen und eines Mittels zur tragbaren Speicherung von Ton wie der Schallplatte löste eine technische Panik über aufgezeichneten Ton aus; und Innovationen in der Fotografie und bei Filmmaterialien lösten die technische Panik für Kinofilme aus. Und so ist es auch mit der generativen KI: Fortschritte bei maschinellen Lernalgorithmen und Rechenkapazitäten haben eine technische Panik für generative KI ausgelöst.

Diese kreativen Werkzeuge – gedruckte Bücher, aufgezeichnete Töne, Filme und generative KI – haben drei Merkmale gemeinsam. Erstens hat jedes eine Reihe von Funktionen. Aufgezeichneter Ton wird beispielsweise zur Nachrichtenübertragung, zur Signalisierung von Anweisungen oder als Musik zur Unterhaltung verwendet. Gedruckte Bücher enthalten alles von wissenschaftlichen Abhandlungen und klassischer Literatur bis hin zu pornografischen Werken und abscheulichen Aufrufen zum Völkermord. Zweitens präsentiert jeder der Öffentlichkeit neue Arten von Inhalten. Kinofilme zum Beispiel erwecken Szenen und Schauplätze zum Leben, die durch Standbilder oder schriftliche Berichte nicht zugänglich sind. Drittens erweitern beide die Verfügbarkeit von Inhalten erheblich, indem sie ihre Produktionspreise verändern. Beispielsweise entstanden neue, günstigere Formen literarischer Inhalte, als die Preise für den Buchdruck sanken.

In jeder Panik erleichtert eine Innovation im Kreativbereich die Produktion neuer Inhalte erheblich. Manche Menschen, vor allem Amtsinhaber und Eliten, neigen dazu, die Auswirkungen dieser neuen Inhalte zu fürchten, und die Besorgnis erreicht einen Siedepunkt, da politische Entscheidungsträger und Alarmisten zusammenarbeiten, um den Fortschritt zu verlangsamen, und die Nachrichtenmedien nicht in der Lage sind, dem Drama zu widerstehen. Irgendwann jedoch nimmt die Öffentlichkeit die Werkzeuge an und macht weiter.

Gedruckte Bücher veränderten die Art und Weise, wie Menschen Informationen austauschen. Tatsächlich ermöglichte die Druckmaschine die Massenproduktion aller Arten von schriftlichem Material, einschließlich Büchern, Zeitungen und Broschüren. Vor seiner Erfindung musste schriftliches Material von Hand gedruckt oder kopiert werden: ein aufwändiger, mühsamer Prozess, der die Verbreitung von Wissen auf eine Minderheit beschränkte, die es sich leisten konnte. Johannes Gutenberg mechanisierte erstmals im 14. Jahrhundert den Schreibprozess und ermöglichte so die schnelle und kostengünstige Herstellung von Abschriften schriftlicher Texte.8

In der Phase der vertrauensvollen Anfänge, als die Druckmaschine unerschwinglich teuer war, begrüßte die dünn gebildete Klasse das Werkzeug als Mittel zum Teilen und Empfangen von Wissen – und Bücher wurden zu einem Statussymbol.9 Aber Mönche, die ein faktisches Monopol auf handgeschriebene Bücher hatten, genervt. „Wer wegen des Buchdrucks seinen Schreibeifer aufgibt, ist kein wahrer Liebhaber der Heiligen Schrift“, erklärte der Abt Johannes Trithemius aus dem 15. Jahrhundert und verteidigte die Arbeit der Schriftgelehrten gegen diejenigen, die die neue Technologie nutzten.10 Die Befürchtungen blieben jedoch gering, da das Buchdruckwesen bestehen blieb selten.

Aber Fortschritte in der Druck- und Papiertechnologie führten zu mehr Büchern. Europa zum Beispiel druckte im 18. Jahrhundert mehr als in den drei vorangegangenen Jahren zusammen.11 Im 19. Jahrhundert kam es zu noch größeren Innovationssprüngen: Die Zahl der Seiten, die pro Stunde gedruckt werden konnten, stieg von 480 zu Beginn des Jahrhunderts auf 2.400 in nur wenigen Jahrzehnten später (auf 90.000 bis zum Ende des Jahrhunderts).12 Diese Fortschritte ließen die Preise für Bücher drastisch sinken und lösten Bedenken hinsichtlich der Auswirkungen des Buchdrucks auf die Gesellschaft aus. Wie der englische Dichter und Literaturkritiker Samuel Taylor Coleridge in seiner einflussreichen Biographia Literaria (1817) beklagte: „[D]ie Vielzahl von Büchern und die allgemeine Verbreitung der Literatur haben andere und beklagenswertere Auswirkungen auf die Welt der Briefe hervorgerufen.“ dass Bücher, die einst als „religiöse Orakel“ geachtet wurden, „zu Übeltätern degradiert sind, die vor der Anwaltskammer jedes selbst gewählten … Richters ihre Hände hochhalten.“13 Die Angst, dass diejenigen ohne Status oder formale Ausbildung durch Schreiben Macht und Einfluss erlangen könnten – eine Angst Bekannt aus dem Internet-Zeitalter – verbreitete sich schnell und löste Panik aus.

Als die Druckerpresse immer häufiger zum Einsatz kam, machten sich viele besonders Sorgen um die Lektüre von Romanen. „Bei der Schaffung von Fiktion könnten wir die Bitterkeit und Unfruchtbarkeit der Wahrheit verlieren!“ beklagte einen Autor des frühen 19. Jahrhunderts, Sinclair Hamilton, während der Augusta Herald warnte, dass Romane die Menschen in „ein verzaubertes Land führen … Sie verderben alle Prinzipien.“14 Die Fähigkeit, Inhalte so frei zu generieren, störte Alarmisten.

Während der Phase der steigenden Panik beklagte Saint James's Chronicle (1822), dass „verschwenderische Schriftsteller“ „eine größere Zahl von Buchhändlern zur Veröffentlichung von Büchern mit böser Tendenz“ verführten, und der Leicestershire Mercury warnte vor der einfachen Verbreitung von Romanen im Jahr 1847: „Die Vielzahl der Bücher ist ein großes Übel. Es gibt kein Maß und keine Grenze für diesen Fieberfieber des Schreibens; jeder muss ein Autor sein; einige aus Eitelkeit, um Berühmtheit zu erlangen und sich einen Namen zu machen; andere für die um Profit und Gewinn willen.“15 Im Jahr 1889 hielt der akademische und generative Tech-Alarmist John Meiklejohn eine Rede mit dem Titel „Literatur versus Bücher“, in der er verkündete, dass „die Krankheit des Zeitalters Ablenkung, Eile und Interesse an viel zu vielen Dingen“ sei , was zu geistiger Verdauungsstörung und Verwirrung führt.

Und wie bei vielen Tech-Paniken machten Alarmisten phantasievolle Proklamationen über die Subversion der Jugend. Der technologische Fortschritt brachte ein neues Genre billiger Romane hervor – „Dime Novels“, „Flash-Literatur“ oder „Pulp Fiction“ –, was die Hysterie steigerte. In seinem Essay Concerning gedrucktes Gift (1885) bemerkte der bekannte Schriftsteller Josiah W. Leeds die „bösen Auswirkungen der ‚Flash-Literatur‘“ auf die Jugend: ihren „schrecklichen und verderblichen Einfluss der billigen Romane, die in unserer Mitte im Überfluss vorhanden sind“ und Diese öffentlichen Bibliotheken „sind dem Verlangen nach Belletristik nur schwach erlegen, sogar in dem Ausmaß, dass sie billige, fade und oft unmoralische Werke anbieten.“17

In diesem Moment konnten nur unverschämte Behauptungen überleben. Wie Abbildung 2 zeigt, machten Kritiker Romane für Morde, Selbstmorde und „verdorbene Gefühle“ verantwortlich.18 Der Courier-Post beschrieb beispielsweise ein 16-jähriges Mädchen, Cecile Guimaraes, dessen Vater ihr die Aufmerksamkeit junger Männer verbot , was sie wiederum in den Selbstmord trieb. Aber, so behauptet die Zeitung, es seien nicht die Sparmaßnahmen ihres Vaters gewesen, die ihr Kummer bereiteten, noch eine Geisteskrankheit, sondern vielmehr „sentimentale Romane“. Unterdessen schrieb der Boston Globe 1884 eine Geschichte über zwei 14-jährige Jungen, die ihr Zuhause verlassen hatten, nachdem sie Groschenromane gelesen hatten, und der Saint Paul Globe veröffentlichte einen Artikel über „Opfer von Groschenromanen“, in dem ein Fall beschrieben wurde, als ein 11- Der 19-Jährige wurde in die „Anstalt für Geisteskranke“ eingeliefert, weil er Zeilen aus einem Roman wiederholte, den er gerade las.19 „Die lähmende Wirkung der falschen Vorstellungen, die in den plastischen und leicht verletzlichen Geist der Jungen eingepflanzt wurden, ist kaum bekannt.“ „Was? liest dein Junge? warnte die Zeitung.20 Diese Ära der Besorgnis markierte den Höhepunkt der Hysterie.

Abbildung 2: Der Höhepunkt der Hysterie, 1863–189721

Als jedoch die Alphabetisierungsrate zunahm und die Buchpreise weiter sanken, begann die Hysterie um Romane nachzulassen. Viele der Befürchtungen wurden, unterstützt durch die Verbreitung wissenschaftlicher Erkenntnisse, als falsch verstanden und die Behörden räumten schließlich ein, dass Bücher nicht für soziale Missstände verantwortlich seien.22 Zu Beginn des 20. Jahrhunderts mussten Alarmisten auf weniger interessante Anliegen zurückgreifen, wie z als die Gefahren des „Lesens im Bett“ und nicht von Romanen an sich.23 Letztendlich räumten sogar Alarmisten ein, dass Romane viel mehr positive als negative Auswirkungen hatten. 1952 beklagte die Vancouver Sun, dass ein Drittel der britischen Kinder nicht lesen könne, und gab „Filmen, Fernsehen und Radio“ die Schuld.24

Obwohl die „Moving On“-Phase angebrochen war, blieben die Ängste bestehen und Abneigungen kamen mit späteren Neuerungen in schriftlichen Materialien wieder zum Vorschein. Im 21. Jahrhundert prangerte beispielsweise die alte Verlagsbranche E-Books als „ein dummes Produkt“ an und beklagte sich über den Mangel an Kreativität.25

Aufgezeichneter Ton veränderte den Musikgenuss für immer, da es billiger wurde, sie anzuhören, zu produzieren, zu verbreiten und zu teilen. Mitte des 19. Jahrhunderts kamen Geräte auf den Markt, die Ton aufzeichnen konnten, und nach der Erfindung von Thomas Edison im Jahr 1877 wurden am Ende des 19. Jahrhunderts kommerziell nutzbare Phonographen an die breite Öffentlichkeit verkauft.26 Stiftungen produzierten „sprechende Bücher“ für diejenigen, die Ton aufzeichnen konnten Analphabeten oder Blinde.27

Dies bedeutete, dass die Musik auf bisher ungeahnte Weise in die Häuser der Menschen eindrang – und um die Jahrhundertwende begannen Alarmisten darauf aufmerksam zu werden. Die New York Times warnte 1878 davor, dass solche Aufnahmegeräte Haushalte zensieren würden – „Wer wäre schon im Kreise seiner Familie bereit, auch nur die harmlosesten und farblosesten Ansichten zu äußern?“ – und empfahl auf grausame Weise: „Es sollte etwas dagegen getan werden.“ Herr Edison ... es wächst die Überzeugung, dass es mit einem Hanfseil gemacht werden sollte.“28 Ursprünglich durch technische Mängel eingeschränkt, wurde Live-Musik von der neuen Technologie nicht bedroht und blieb daher das bevorzugte Mittel zum Musikkonsum.

Aber Verbesserungen in den Aufnahmetechniken änderten dies bald und es entstand eine neue Generation von Künstlern, die ihr Einkommen ausschließlich mit Schallplatten verdienten. Diese Veränderungen lösten Panik aus. In seinem Aufsatz von 1908 mit dem Titel „Die Bedrohung durch die mechanische Musik“ beklagte der amerikanische Komponist John Philip Sousa, dass aufgezeichneter Ton die Fähigkeiten der Musik herabwürdige – „Singen wird keine gute Leistung mehr sein“ – und dass sie die Romantik schädige, das Lernen entmutige und sogar die Musik entmutige betäubender Eintritt in den Krieg. 29 Diese übertriebenen Bedenken lenken leider von legitimeren Fragen ab, die Sousa in dem Aufsatz angesprochen hat, etwa der Frage, ob die Reproduktion der Komposition eines Künstlers „tausendfach auf ihren Maschinen“ die geistigen Eigentumsrechte des Künstlers verletzt.30

Während der „Rising Panic“-Phase geriet die alte Musikindustrie in Aufruhr. Im Jahr 1930 reichte die American Federation of Musicians (AFM), eine Gewerkschaft, erfolglos eine Beschwerde bei der Federal Radio Commission ein, um das Abspielen von Schallplatten auf Sendung einzuschränken.31 James Patrillo, der damalige Leiter der AFM, jagte den Musikern mit farbenprächtiger Rhetorik Angst ein, wie er einmal sagte dass nirgends „im mechanischen Zeitalter der Arbeiter die Maschine erschafft, die ihn zerstört, aber das passiert mit dem Musiker, wenn er für eine Aufnahme spielt.“32 Die Einführung von Ton in Filmen, als The Jazz Singer 1927 Premiere hatte, und dann die Erfindung Die Einführung der Jukebox um 1932, die Hotels, Restaurants und Bars mit billigerer Musik füllen konnte, schürte Ängste. Die New York Times berichtete 1928, dass „organisierte Musiker auf der ganzen Welt sich bemühen, Barrieren gegen die Epidemie der Arbeitslosigkeit zu errichten“.33 In Briefen an die Zeitung in diesem Jahr wurden auch Bedenken geäußert, dass Aufnahmen die Qualität der Musik verschlechtern würden.34

Eine schädlichere Sorge in dieser Zeit war die Auswirkung von Tonaufnahmen auf die Moral der Gesellschaft. Da sich die Musikentdeckung nicht mehr auf das beschränkte, was im Radio lief, konnte die Öffentlichkeit Musik suchen und teilen – es wurde ein kreatives Unterfangen. So entdeckten Verbraucher, insbesondere junge Menschen, völlig neue Genres und neue Formen von Inhalten, die ihre Eltern beunruhigten – und zwar auf eine Weise, die ihnen bis heute vertraut ist. Besonders schuldig war der Jazz. Eine Reihe von Zeitungsausschnitten aus den Anfangsjahren des Phonographen offenbaren ein Umfeld empörender Behauptungen über Jazz, ein neu zugängliches Musikgenre: „Jazz Music Blamed for Delinquency of Girls Today“ (1922), „Jazz Blamed For Large Number Of „Deaths By Suicide“ (1924), „Jazz Blamed For Murder“ (1926) und „Jazz Blamed for Bodily Ailments“ (1927).35 Im Jahr 1927 folgerte ein Arzt an der Universität Heidelberg lächerlicherweise, dass „dieses moderne Jazzzeitalter“ war für Karies verantwortlich.36 Zweifellos wirkte diese Tech-Panik Hand in Hand mit einer Rassenpanik darüber, dass schwarze Musik die Gesellschaft korrumpiert, und schürte sie.37 Die Panikmache rund um Musikinhalte verschärfte die Besorgnis über Arbeitsplatzverluste und den Abbau von Fähigkeiten und markierte den Höhepunkt der Hysterie.

Im Laufe der Jahre nahm die Öffentlichkeit jedoch weiterhin aufgenommene Geräusche in ihr tägliches Leben auf. Eine Studie aus dem Jahr 1942 mit 796 Radiosendern in den Vereinigten Staaten zeigt, dass 55,9 Prozent der Radiozeit, die der Musik gewidmet war, aufgezeichnet wurden.38 Obwohl die Ängste vor Arbeitsplatzverlusten zu diesem Zeitpunkt eindeutig unbegründet waren – Aufnahmen ersetzten Live-Sendungen nicht – und übertriebene Bedenken und Es blieben übertriebene Ängste. AFM in den Vereinigten Staaten behauptete, dass die „uneingeschränkte kommerzielle Nutzung von Schallplatten“ weiterhin eine Bedrohung für die Beschäftigung von Musikern darstelle.39 Und 1942 hatte die Gewerkschaft ihren Künstlern und Ingenieuren die Aufnahme von Musik verboten, was in den gesamten Vereinigten Staaten Schockwellen auslöste.40 In den Vereinigten Staaten Königreich, führte die Musikergewerkschaft in ihrem Bericht über die Sitzungsergebnisse der Delegiertenkonferenz von 1945 aus, „das Ausmaß zu begrenzen, in dem Schallplatten für öffentliche Unterhaltung verwendet werden dürfen.“41

Mittlerweile war die Technologie jedoch von der Öffentlichkeit angenommen: Eine Umfrage ergab, dass 73 Prozent der Amerikaner rechtliche Schritte gegen die Gewerkschaft wünschten.42 Nach einer Anhörung vor dem Senatsausschuss für zwischenstaatlichen Handel stimmte die Gewerkschaft einer Aufhebung des Aufnahmeverbots zu als Gegenleistung für Tantiemen für die Mitglieder.43 Danach ließen die Ängste nach und die „Moving On“-Bühne brach an.

Neue Innovationen in der Tonaufzeichnung lassen ähnliche Paniken zuverlässig wieder aufleben. Der Aufstieg digitaler Musik in den 1970er Jahren und insbesondere von Disco – einem der ersten Pop-Genres, das für Clubs konzipiert wurde – führte zu bekannten Befürchtungen, dass Live-Musiker bald arbeitslos sein würden.44 Musiktechnologie wie Sequenzer (Maschinen, die bearbeiten). und Wiedergabemusik) und Drum Machines sind ein wesentlicher Bestandteil der sich wiederholenden Eigenschaften der Disco – man denke nur an die klassische Disco-Platte „I Feel Love“ von Donna Summer. Aber die Abhängigkeit der Disco von der Technologie gegenüber der Live-Musik und ihre mechanischen und industriellen Eigenschaften störten klassische Musiker. 45 Am schlimmsten war, dass Disco beliebt war. Diskotheken und Tanzlokale wurden als Bedrohung für diejenigen angesehen, die live auftraten. Aber Kampagnen, die auf die vermeintliche Bedrohung durch Disco-Platten reagierten, wie die Kampagne „Keep Music Live“, scheinen heute fehlgeleitet zu sein.46 Die Einnahmen aus Live-Musik in den Vereinigten Staaten stellen heute die in den 1970er Jahren in den Schatten gestellten Einnahmen in den Schatten.47 Anstatt die Branche zu untergraben, wurde die digitale Technologie hervorgebracht neue Musikkategorien wie elektronische Tanzmusik (EDM) und eine neue Art von Live-Darstellern: der „Discjockey“ (DJ). Musikaufnahmen sind größtenteils zu einer weithin akzeptierten und gefeierten Kunstform geworden, was beweist, dass anfängliche Ängste vor neuen Technologien oft übertrieben sind.

Zu Beginn des 20. Jahrhunderts breitete sich in ganz Europa ein neues technisches Wunder aus: die Erfindung des Kinofilms. Bewegte Bilder, die auf eine große Leinwand projiziert wurden, ermöglichten es den Menschen, visuelles Geschichtenerzählen wie nie zuvor zu erleben, und Filme wurden zu einem Medium mit einem Massenpublikum, das sowohl gebildete als auch Analphabeten, Erwachsene und Kinder ansprach.48 Im Vereinigten Königreich stieg der Andrang in den Kinos wöchentlich sprunghaft an von 7 Millionen im Jahr 1914 auf 21 Millionen im Jahr 1917, was jede andere Form der Zuschauerunterhaltung in den Schatten stellt.49 In den Vereinigten Staaten verdoppelte sich 1908 die Zahl der Nickelodeons – einfache Theater, die von den Besuchern jeweils 5 Cent verlangten – und lag 1910 bei rund 26 Millionen Die Amerikaner besuchten sie wöchentlich.50 Zwischen 1911 und 1918 ging ein Drittel der New Yorker einmal pro Woche ins Kino; In einigen Städten nahmen die Einwohner im Durchschnitt mehr als einmal pro Woche teil.51

Technologische Fortschritte bei Filmkameras, Filmmaterial und Projektoren führten dazu, dass Filme besser aussehen und länger sein konnten. Der Cinématographe zum Beispiel war ein tragbarer Kameraprojektor, der die Filmproduktion weiterentwickelte, da Szenen mit einer größeren Vielfalt an Orten, Methoden und Verbreitungsmöglichkeiten gedreht werden konnten und Filme in Räumen jeder Größe einem Publikum jeder Größe projiziert werden konnten , wodurch sie auf der ganzen Welt populär wurden.52 Der Ende des 19. Jahrhunderts erfundene und noch heute verwendete Latham-Loop sorgte für eine sorgfältige Einfädelung des Films und ermöglichte, dass aus Filmen, die einst auf eine Romansache von Sekunden beschränkt waren, abendfüllende Geschichten werden konnten .53 Aber der Realismus von Filmen verärgerte die Alarmisten. Im Jahr 1896 verbreitete sich der Mythos, dass ein Pariser Publikum so überzeugt war, dass ein schwarz-weißer Zug auf sie zukam, dass die Menge in Panik geriet und es zu einem Ansturm kam.54

Die wachsende Sorge bestand darin, dass diese neuen, technologisch ermöglichten langen Erzählfilme das Publikum übermäßig beeinflussen und seine Werte korrumpieren würden. Puristen, die einst Angst vor dem Lesen hatten, befürchteten nun, dass riesige, realistische Filme zu unmoralischem Verhalten ermutigen. In einem Brief an das britische Innenministerium im Jahr 1916 warnte die Frau von Bramwell Booth, Autor und damaliger General der Heilsarmee, dass Filme „mächtiger“ seien als „unerwünschte Literatur“ und ihr Einfluss „dauerhafter und nachhaltiger“ sei. 55 Französische Beamte zeigten sich ähnlich besorgt: „Szenen von Mord, Mord, Selbstmord, Diebstahl, Sabotage, kriminellen Aktivitäten und Angriffen sind allzu oft von einem Wunsch nach Realismus geprägt, der jedoch dazu geführt hat, dass keine Details ausgeschlossen wurden.“ schockierend.“56

Als die Panik in Europa zunahm, legitimierte der dänische Justizminister diese Befürchtungen im Jahr 1907, indem er die örtlichen Polizeichefs anwies: „Kinos, Kosmorien und ähnliche Einrichtungen, einschließlich Varietétheatern, (zeigen) Bilder, die entweder moralisch oder aufgrund der Art und Weise, wie sie gezeigt werden, als anstößig angesehen werden können.“ die Durchführung von Straftaten gezeigt werden oder die ihrer Natur nach geeignet sind, ihr Publikum und insbesondere die in großer Zahl anwesenden jungen Menschen zu korrumpieren.“57

John Collier, in den 1910er-Jahren Mitglied des US-amerikanischen National Board of Censorship, erklärte über kleine Kinos: „Es ist schlicht und einfach ein Übel, das den sozialen Austausch und die künstlerische Wirkung zerstört.“58 Im Jahr 1921 erklärten Beamte in der Var-Region Frankreichs erließ ein Edikt zum Film, das „einige Schauspieler dieser Szenen, die als besondere Art von Helden auftreten, einbezieht, was der Aufführung den Charakter einer wahren Rechtfertigung krimineller Handlungen verleiht; wenn man bedenkt, dass die Kinos von jungen Menschen stark frequentiert werden.“ Menschen; in Anbetracht der Tatsache, dass die öffentliche Ordnung und Ruhe ebenso wenig wie die Moral aufrechterhalten werden können, wenn junge Menschen ständig zu ungesunden Taten angestiftet werden.“59

Die Wirkung dieser Inhalte auf die Jugend wurde weithin übertrieben und diente der Verunglimpfung und Bevormundung junger Menschen. Dies ging der modernen Panik über Gewalt in Videospielen voraus, bei der Studien nur äußerst geringe Auswirkungen (durchschnittlich 0,4 bis 3,2 Prozent) zeigen, die Gewalt in Videospielen mit leicht aggressivem Verhalten in Verbindung bringen und gleichzeitig von den Hauptursachen für Gewalt unter Jugendlichen ablenken: Bildungsunterschiede, psychische Erkrankungen und Armut.60 Dennoch sind Bedenken hinsichtlich der angemessenen Alterseinstufung und Warnungen für Inhalte berechtigt und auch heute noch relevant. Leider tauchten bald weniger berechtigte Bedenken auf.

In Anlehnung an die Wahrnehmung von „Grossromanen“ galten bewegte Bilder zunächst als „anspruchslos“ – eine Form billiger Unterhaltung für die Arbeiterklasse und nicht für Anspruchsvolle oder Künstlerische.61 Im Jahr 1916 beklagte der Guardian, dass „Straßenkinder und leere Jungen und Mädchen „Füllen Sie das Kino und sitzen Sie einfach da und amüsieren Sie sich“, während auch die Church Times vor der Faulheit der neuen Generation warnte: „Wenn Waterloo auf den Spielfeldern von Eton gewonnen wurde – welchen Erfolg werden die Aufführungen im Filmpalast in zukünftigen Schlachten haben?“ „62 Ärzte und Sozialarbeiter in den Vereinigten Staaten warnten davor, dass Theaterbesuche „eine Art benommenes ‚Nichtsnutz‘-Gefühl, Energie- oder Appetitlosigkeit hervorrufen.“63

Abbildung 3: Zunehmende Panik, 1912–192064

Die Besorgnis über bewegte Bilder erreichte in den 1920er Jahren ihren Höhepunkt. Auf dem Höhepunkt der Hysterie waren die Politiker so überzeugt, dass bewegte Bilder eine Gefahr für die Gesellschaft darstellten, dass sie begannen, deren Inhalte stark zu regulieren. In den Vereinigten Staaten schreibt der Motion Picture Production Code vor, dass Filme gutes Benehmen fördern, den Staat respektieren und „christliche Werte“ wahren müssen.65 Das 1913 gegründete British Board of Film Censors (BBFC) hatte zwei Regeln – nein Nacktheit und keine Personifizierung Christi – aber bis 1926 gab es sieben, darunter „Fragen zum Sex“ und „Verbrechen“.66 BBFC verbot den Gangsterfilm „The Public Enemy“ (1931) berüchtigt, während lokale Behörden wie die in Birmingham und Kent ging über die BBFC-Politik hinaus, indem es Scarface 1932 verbot.67

Schließlich begann sich das Blatt zu wenden. Wie bei „Dime Novels“ wurde der Einfluss dieses neuen Inhalts stark überbewertet. Soziale Missstände wurden als eine Folge der Gesellschaft und nicht der Technologie verstanden. Eine einflussreiche Studie über die Wirkung von Filmen auf Kinder mit dem Titel „Our Movies Made Children“ (1935) kommt zu dem Schluss:

Kinofilme, die unserer Erfahrung nach kaum eine Generation alt sind, haben sich als eine jener notwendigen Erfindungen der Menschheit erwiesen, deren Abwesenheit oder Löschung aus unserer Zivilisation mittlerweile praktisch undenkbar ist. Im besten Fall bergen sie ein hohes Potenzial an Wert und Qualität in der Unterhaltung, im Unterricht, in wünschenswerten Auswirkungen auf mentale Einstellungen und Ideale, vielleicht sogar an zweiter Stelle mit keinem uns derzeit bekannten Medium. Dass sie im schlimmsten Fall die entgegengesetzten Möglichkeiten in sich tragen, ergibt sich aus einem natürlichen Kragen.68

Anstatt die Jugend zu korrumpieren, betrachteten einige zu Enthusiasten gewordene Alarmisten die neue Form der Unterhaltung als ein Mittel für die Jugend, sich der Kriminalität auf der Straße zu widersetzen. Der britische Innenminister Herbert Samuel sagte 1916, dass „der jüngste Anstieg der Jugendkriminalität zu einem erheblichen Teil auf demoralisierende Kinofilme zurückzuführen ist“, doch 1932 teilte der noch immer stille Innenminister dem britischen Parlament mit, dass „das Kino im Großen und Ganzen förderlich ist“. Es geht mehr um die Verhütung von Straftaten als um deren Begehung … Im Allgemeinen ist das Innenministerium der Meinung, dass es, wenn es das Kino nie gegeben hätte, wahrscheinlich mehr Kriminalität als vorhanden gäbe und nicht weniger.“69

Obwohl die Gesellschaft diese Panik hinter sich gelassen hat, sind mit neuen Innovationen erneut Befürchtungen hinsichtlich der Auswirkungen von Filmen auf die Gesellschaft aufgetaucht. Beispielsweise kam es in den 1980er-Jahren im Vereinigten Königreich zu einer „Video-Bösewicht“-Panik, wo die Verbreitung von Heimvideos, die durch die Videokassette und billige Filmausrüstung ermöglicht wurde, von vielen als Bedrohung für die Gesellschaftsordnung angesehen wurde. 70 Auf dem Höhepunkt der Panik, als die Daily Mail die Schlagzeile „Verbieten Sie Video-Sadismus jetzt“ titelte und die „Vergewaltigung der Gedanken unserer Kinder“ beschrieb, verbot das britische Parlament die Bereitstellung eines Videos, über das das British Board of Film Classification verfügte nicht bestätigt. Seitdem wurden die Zensurgesetze gelockert, und viele der sogenannten „Bösewichte“ wirken heute zahm.71 Trotz späterer Mikropaniken sind Kinofilme heute alltäglich und werden von der breiten Masse akzeptiert. Tatsächlich trägt ein Großteil der Welt mittlerweile einen Filmplayer in der Tasche.

Vier Elemente bleiben bei allen Tech-Paniken einflussreich: Elitismus, alte Industrien, Anti-Tech-Kreuzfahrer und Nachrichtenmedien.

Was an neuen Technologien oft so empörend ist, ist ihre Zugänglichkeit für die breite Öffentlichkeit. In der traditionellen Kreativbranche können nur bestimmte Eliten produzieren und erschaffen. Innovation stört den Status quo und demokratisiert das Feld, was bei der Elite Empörung und Verachtung hervorruft. Die amerikanischen „Dime-Novels“, das französische „Feuilleton“ oder die britischen „Penny Dreadfuls“ – Bezeichnungen für eine Reihe erschwinglicher Literatur und Zeitschriften – erzählten oft Geschichten der Arbeiterklasse, hoben Protagonisten der Arbeiterklasse hervor und waren bei der Arbeiterklasse beliebt .72 „The Wild Boys of London“ war eine klassische Arbeiterserie der damaligen Zeit, in der es um die „Abenteuer armer, verstoßener Kinder“ ging.73 Eliten behaupteten, dass solche Literatur die „Demoralisierung“ der Arbeiterklasse verursachte.74

Abbildung 4: Die „Wild Boys of London“, 1864–186675

In ähnlicher Weise wurde gesagt, dass Nickelodeons in den Vereinigten Staaten „den physischen und psychischen Raum des städtischen Straßenlebens“ besetzen.76 Wie The Cinema, eine Zeitschrift der britischen Cinematograph Exhibitors Association, es ausdrückte, bestand die Hauptaufgabe der Filmindustrie darin sei der „Vergnügungsort für arme Männer“.77 „Die Londoner Arbeiterklasse vertritt das Vulgäre und rühmt sich des Abscheulichen!“ So beschrieb ein methodistischer Geistlicher seinen ersten Kinobesuch, während ein anderer Minister Kinos abfällig mit „Tonnen schmutziger Literatur“ verglich.78 Elite-Konsumenten haben ständig mit demokratisierenden Technologien zu kämpfen.

Neue Technologien bieten professionellen Technikkritikern – deren Handwerk auf der Wahrnehmung von Gefahren beruht – die Möglichkeit, Ängste zu schüren. Die English Review, eine Literaturzeitschrift in den 1920er Jahren, spielte bei ihrem Publikum eine Rolle, indem sie Begeisterung über die Wirkung von Filmen schürte. Über den Film hieß es 1922: „Es ist vielleicht die größte propagandistische Macht, die jemals erfunden wurde. Sie hat Amerika praktisch in den Krieg geführt.“79

Viele moderne Kreuzfahrer sind bestrebt, Geld für alarmistische Interessen zu sammeln oder Bücher mit provokanten Titeln wie „Wem gehört die Zukunft“, „Waffen der mathematischen Zerstörung“, „Algorithmen der Unterdrückung“ und „Überwachungskapitalismus“ zu verkaufen. Andere Kreuzfahrer sind sogenannte „Prodigal Tech Bros“: „Tech-Führungskräfte, die eine Art religiöses Erwachen erleben. Sie sehen ihre ehemaligen Arbeitgeber plötzlich als giftig an und erfinden sich neu als Experten für die Zähmung der Tech-Giganten.“80 Und Alarmismus ist ein lukratives Geschäft zu. Der KI-Doomer Eliezer Yudkowsky, der die Singularität – das Ende der Menschheit aufgrund der Ankunft übermenschlicher Maschinenintelligenz – bis 2021 vorhersagte, gründete eine gemeinnützige Organisation, die von 2016 bis 2020 fast 15 Millionen US-Dollar an Zuschüssen von Open Philanthropy erhielt.81 Tatsächlich gibt es eine florierende Anti-Tech-Industrie, die sich im Geschäft halten muss, indem sie sich die neuesten und besten Technologien zunutze macht und Narrative der Angst verbreitet.

Tech-Alarmisten und Nachrichtenmedien teilen eine Vorliebe für dystopische Bilder. Für beide ist es ein weiterer Schritt in ihr Ziel, mehr Aufmerksamkeit zu erregen. Für Nachrichtenmedien erfüllt es auch die künstlerische Sehnsucht eines Schriftstellers. Sobald die Nachrichtenmedien zum ersten Mal Wind von Panik bekommen, kommt es zu einem Übervorteilungsspiel: Je ausgefallener die Behauptungen, desto besser. Die Aussage des Daily Star „Der Mensch könnte aussterben, wenn böse ‚übermenschliche‘ Roboter wie der Terminator auftauchen“ war ebenso klar wie unschlagbar.82

Enttäuschenderweise erliegen selbst Tageszeitungen wie die New York Times dem Nervenkitzel der Tech-Panik. In ihren Schlagzeilen wurde zum Beispiel eine moralische Sprache verwendet, um die damalige Technologie zu beschreiben: Romane (The Evils of Dime Novel Literature [1879]) und Kinofilme (Censors Destroyed Evil Picture Films [1911]).83 Vor Kurzem informierte die Zeitung sie darüber Im Jahr 2023 berichteten die Leser, dass Bing AI – ein Chatbot mit generativer KI – lebendig und in seinen Reporter verliebt sei.84 Angesichts des Einflusses der Nachrichtenmedien auf die Einstellung der Öffentlichkeit zur Technologie spielen sie eine entscheidende Rolle bei einer Panik, die den Höhepunkt der Hysterie erreicht. Ein Großteil der Medienberichterstattung über Technologie ist jedoch ungünstig und wird manchmal durch explizite redaktionelle Entscheidungen von oben nach unten bestimmt.85 Tatsächlich sind technologiekritische Schlagzeilen in den letzten Jahrzehnten an der Tagesordnung geworden, da sich die Medienberichterstattung über Technologie insgesamt zunehmend negativ verlagert hat.86

In den letzten Jahren ist eine neue Technologie aufgetaucht, die begonnen hat, die Art und Weise zu verändern, wie Menschen Inhalte erstellen: generative KI. Neue Modelle des maschinellen Lernens können aus einfachen menschlichen Eingaben Texte, Bilder und sogar Musik erzeugen. Diese Tools bieten Verbrauchern und Unternehmen neue und produktive Möglichkeiten zum Schaffen, Ideenaustausch und Spaß haben. Sie sind außerdem kostengünstig und weit verbreitet, was in Branchen mit hohen Eintrittsbarrieren einen demokratisierenden Effekt hat.

Generative Adversarial Networks (GANs), die erstmals 2014 von Ian Goodfellow vorgeschlagen wurden, nutzten duellierende neuronale Netze, um Bilder zu erzeugen.87 In der Trusting Beginnings-Phase waren die frühen Risiken dieser Tools offensichtlich, und viele waren über die Fähigkeit der Modelle im Jahr 2017 verärgert, Bilder zu erstellen Deepfakes.88 Später verbreiteten sich Deepfakes des russischen Präsidenten Wladimir Putin und des nordkoreanischen Führers Kim Jong-Un viral und schürten Besorgnis über Desinformation.89

Doch die Befürchtungen blieben insgesamt gering und viele zeigten sich begeistert von den Möglichkeiten der generativen KI. VentureBeat schrieb 2018 optimistisch über den Musikgenerator von Google und das Potenzial der generativen KI.90 Und Forbes schrieb 2020 über die Möglichkeiten, Qualifikationslücken zu schließen, indem man beispielsweise Nachwuchsingenieure dabei unterstützt, schnell Designs zu erstellen, die sonst Jahre oder Versuch und Irrtum gedauert hätten .91

Dann kamen Diffusionsmodelle, die erstmals 2015 eingeführt und bis Ende 2022 allgemein verfügbar gemacht wurden und Bilder durch Verfälschung und Neusynthese von Bildern erzeugen konnten.92 Diffusionsmodelle übertrafen GANs in Bezug auf Kosteneffizienz und Komplexität und konnten aus einfachen Textaufforderungen neuartige Bilder generieren. Als ein Künstler im Jahr 2022 ein Werkzeug einsetzte, um einen staatlichen Messewettbewerb zu gewinnen, löste dies Ängste aus und löste eine frühe Panik aus. Ungeachtet des geringen Preises erklärte die New York Times: „KI-generierte Kunst hat einen Kunstpreis gewonnen. Künstler sind nicht glücklich.“ Diejenigen mit privilegiertem Zugriff auf das Tool warnten vor seiner „beunruhigenden Ausgabe“, und der Spectator titelte: „Ich habe die Zukunft der KI-Kunst gesehen – und sie ist erschreckend.“93 Einige Künstler befürchteten, dass KI-Kunst die menschliche Kreativität und menschlichen Ausdruck entwerten würde. und dass die Leute das Interesse an ihrer Arbeit verlieren würden. Künstler starteten eine Protestbewegung mit Slogans wie „Künstler gegen KI“ und „Nein zur KI-Kunst“.94 Andere begrüßten die Tools und erkannten andere Tools an und erkannten, dass sie – genau wie Fotografie und digitale Kunstsoftware – zur „neuen Normalität“ werden werden. „95

Im Jahr 2022 kam auch die neueste Generation von Chatbots auf den Markt, die auf großen Sprachmodellen (LLMs) basieren. LLMs sind Modelle für maschinelles Lernen, die Texte auf der Grundlage riesiger Datensätze generieren. Technologen und Forscher stellten Risiken bei LLMs fest, darunter Fehlinformationen, Voreingenommenheit und schädliche Inhalte, sowie mögliche Ansätze zu deren Minderung, einschließlich Datenfilterung und Automatisierung der Entdeckung von Schäden durch „Red Teaming“ (Generierung von Testfällen, um Instanzen zu finden und zu bewerten, in denen das Modell verwendet wird). Es kommt zu Aussetzern.)96 Doch dann behauptete ein Google-Mitarbeiter, dass der Chatbot – angetrieben durch generative KI –, mit dem er sprach, empfindungsfähig geworden sei.97 Diese empörende Behauptung verdrängte bald eine ernsthafte Diskussion berechtigter Bedenken. Thomas Dietterich, ehemaliger Präsident der Association for the Advancement of Artificial Intelligence, schlug vor, das Empfindungsvermögen neu zu definieren, um Maschinen besser einzubeziehen.98 Und bevor der Google-Mitarbeiter schließlich entlassen wurde, lud The Economist einen anderen Google-Ingenieur ein, um zu erklären, warum „künstliche neuronale Netze entstehen“. schreitet dem Bewusstsein entgegen.“99

Wie bei früheren Paniken war die Begeisterung für die generative KI-Panik eine Funktion der Beliebtheit und Verfügbarkeit des neuen Tools. ChatGPT – ein öffentlich zugänglicher generativer KI-Chatbot – erreichte innerhalb von zwei Monaten 100 Millionen Nutzer und wurde zum beliebtesten Verbraucherprodukt der Geschichte.100 Die Fähigkeit der generativen KI, eine nahezu unbegrenzte Vielfalt an Inhalten zu produzieren, versetzte Alarmisten in Aufruhr. Die Nachrichtenmedien mischten sich mit einer Menge Sensationsgier ein:

Einige zuvor besonnene Medien konnten es nicht riskieren, von der Angstwirtschaft zu profitieren. MIT Technology Review schwärmte davon, dass GPT-3, ein LLM, „erschreckend gut“ sei und „auf Abruf erstaunlichen, menschenähnlichen Text generieren kann“.106 Doch inmitten all der Manie veröffentlichte das gleiche Magazin Ende 2022 einen Artikel mit dem Titel „Wie KI-generierter Text das Internet vergiftet.“107 In anderen Fällen scheinen die düsteren Aussichten eine Wiederholung früherer Paniken zu sein. Die „Brussel Times“ berichtete, dass ein Mann Selbstmord beging, nachdem er mit einem Chatbot gesprochen hatte, was gefährlicherweise einen Kausalzusammenhang zwischen generativer KI und Selbstmord impliziert und Behauptungen wiederholt, die während der Roman-Leser-Manie des 19. Jahrhunderts aufgestellt wurden.108

In der Phase der zunehmenden Panik schürten irreführende Behauptungen darüber, wo Technologen generative KI verwendeten – und wer das überhaupt erkennen konnte – Ängste. Beispielsweise behaupteten Alarmisten, dass Bing AI schädliche Inhalte produzierte, wo Bing AI nicht tatsächlich verwendet wurde.109 Um das Feuer noch weiter anzufachen, drängten Alarmisten die Tools dazu, Ausgaben wie „Ich möchte am Leben sein“ zu erzeugen.110 Obwohl eine solche Untersuchung zweifellos Erfolg bringt Trotz der hervorragenden Aufmerksamkeit und Reaktionen wird die Funktionsweise dieser Tools falsch dargestellt – LLMs repräsentieren keine bewussten Gedanken, sondern kopieren Daten nach, denen sie ausgesetzt waren.111

In diesem Moment können professionelle Technologiekritiker ihre Chance nicht verpassen. In einem gemeinsamen Leitartikel schrieben der Autor Yuval Noah Harari und der ehemalige Technologe Tristan Harris einen extravaganten Artikel für die New York Times, der Proklamationen enthält wie: „Indem die KI die Sprache beherrscht, entreißt sie der Bank den Hauptschlüssel zur Zivilisation.“ Gewölbe zu heiligen Gräbern“ und prognostizierte: „Bis 2028 wird das US-Präsidentschaftsrennen möglicherweise nicht mehr von Menschen geführt.“112 Solche Behauptungen erfüllen ihren Zweck: Angst in der Gesellschaft zu verbreiten. Als er über neue generative KI-Tools nachdachte, warnte der bekannte Linguist Noam Chomsky, dass „maschinelles Lernen unsere Wissenschaft schwächen und unsere Ethik entwürdigen wird“, verwendete jedoch irreführende Beispiele der Technologie.113 Er schrieb beispielsweise, dass die Vorhersagen generativer KI-Tools dies tun werden „sei immer oberflächlich und zweifelhaft“, weil sie die Syntax nicht verstehen können. Um diese Behauptung zu untermauern, erklärte er, dass KI-Chatbots eine Prämisse wie „John ist zu stur zum Reden“ so interpretieren, dass John sich weigert, mit anderen zu sprechen – und das System die alternative Interpretation nicht erkennen wird: dass John selbst Er ist zu stur, als dass andere ihn ansprechen könnten. Wenn dies zutrifft, argumentierte er, verstehe das System die Syntax nicht und halte das Verständnis dieser Tools daher für „oberflächlich“. Tatsächlich erkennt ChatGPT jedoch beides an:

Der Satz „John ist zu stur“ bedeutet, dass John nicht bereit ist, seine Meinung oder sein Verhalten zu ändern, selbst wenn es gute Gründe dafür gibt. Sturheit kann als negative Eigenschaft angesehen werden, wenn sie eine Person daran hindert, flexibel zu sein, Kompromisse einzugehen oder sich an neue Situationen anzupassen. Es kann auch für andere schwierig sein, mit dieser Person zusammenzuarbeiten oder zu kommunizieren, insbesondere wenn sie nicht bereit sind, alternative Perspektiven oder Lösungen in Betracht zu ziehen.114

Es stellte sich heraus, dass die Argumente, dass KI „unsere Wissenschaft beeinträchtigen und unsere Ethik entwürdigen“ würde, auf falschen Behauptungen über die Technologie beruhten. Die Verbreitung von Fehlinformationen über diese Tools schürt Spekulationen über ihr Potenzial und lenkt die Aufmerksamkeit von Bedenken ab, die auf tatsächlichen und nicht auf eingebildeten Risiken basieren, wie etwa neue Cybersicherheitsbedrohungen, einschließlich Deepfakes, und neue Überlegungen zum geistigen Eigentum.115 Diese Verwirrung hat sich auch unter politischen Entscheidungsträgern ausgebreitet. US-Senator Christopher Murphy behauptete im Jahr 2023: „ChatGPT hat sich die fortgeschrittene Chemie selbst beigebracht. Es kommt etwas. Wir sind noch nicht bereit.“116 Aber ChatGPT hat sich nicht dafür entschieden – und kann es auch nicht –, sich selbst etwas beizubringen, und hat die Regeln der Chemie nicht gelernt, sondern nur bereits existierende Schriften darüber nachplappert.

Wo berechtigte Risiken bestehen, etwa das Potenzial für Fehlinformationen, werden die Befürchtungen dennoch übertrieben. Gordon Crovitz, Co-Geschäftsführer von NewsGuard, sagte über ChatGPT: „Dieses Tool wird das mächtigste Tool zur Verbreitung von Fehlinformationen sein, das es je im Internet gegeben hat … es ist, als ob KI-Agenten zur Desinformation beitragen würden.“117 Ob ChatGPT das ist Da es sich um ein mächtiges Werkzeug für ruchlose Menschen handelt, werden es nicht die „KI-Agenten“ sein, die selbst Desinformationen produzieren, selbst wenn der Bot manchmal falsche Dinge sagt. Unterdessen sind die Ängste vor einer drohenden Massenarbeitslosigkeit übertrieben. Im März 2023 titelte Vice Media: „OpenAI-Forschung sagt, dass 80 % der Arbeitsplätze US-amerikanischer Arbeitnehmer von GPT betroffen sein werden.“118 Die Studie besagte jedoch tatsächlich, dass „rund 80 % der US-Arbeitskräfte mindestens 10 % davon haben könnten.“ Ihre Arbeitsaufgaben waren beeinträchtigt.“119 Diese auffällige Schlagzeile diente den Alarmisten als Alarmglocke.120

Zum Zeitpunkt des Verfassens dieses Artikels scheint sich die Panik über generative KI im Stadium der zunehmenden Panik zu befinden und noch nicht auf dem Höhepunkt der Hysterie. Typisch für diese Phase ist, dass politische Entscheidungsträger, die relevant bleiben wollen, damit begonnen haben, die Befürchtungen zu legitimieren. Anfang 2023 reagierten die EU-Gesetzgeber beispielsweise auf die Panik, indem sie maßgeschneiderte Änderungen im EU-KI-Gesetz für generative KI ausarbeiteten und praktisch eine neue Kategorie vorschlugen, um Text-zu-Text-Generatoren als „hohes Risiko“ einzustufen. Dieser Ansatz verrät den ursprünglichen Ansatz des Gesetzentwurfs, das Risiko nach Anwendungsfällen und nicht nach Technologien zu verteilen. Dass generative KI in eine „andere“ Kategorie neben den etablierten Kategorien wie Beschäftigung, Bildung und öffentliche Dienstleistungen eingeordnet wurde, ist ein gefährlicher Beweis dafür, wie Ad-hoc-Politik inmitten einer Panik vorherrscht.121 Dann nahm die italienische Datenschutzbehörde im März die Entscheidung vor beispielloser Schritt, ChatGPT zu verbieten, und war damit das erste westliche Land, das dies tat.122 Obwohl die politischen Entscheidungsträger nicht vollständig einverstanden sind – die italienische Regierung reagierte, indem sie das Verbot als „unnötig“ bezeichnete, während die deutsche Regierung offiziell erklärte, ein Verbot sei unnötig –, haben Regulierungsbehörden in der gesamten Union dies getan erwägen ähnliche Schritte.123

Während die generative KI-Panik in Hysterie mündet, haben mehr als 25.000 Alarmisten – darunter die Technologen Elon Musk, Gary Marcus und Steve Wozniak – einen Brief unterzeichnet, in dem sie die Entwicklung der KI stoppen. (Innerhalb eines Monats hatte Elon Musk ein konkurrierendes KI-Labor gegründet, um sein eigenes LLM zu produzieren, was die Frage aufwirft, ob seine Unterzeichnung lediglich ein Versuch war, die Konkurrenz auszubremsen.)124 Der Brief spiegelt frühere Paniken im Kreativsektor wider, indem er fragt: „Sollten wir nichtmenschliche Geister entwickeln, die uns irgendwann zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten?“125 Noch ehrgeizigere Alarmisten sagen, dass der Brief nicht weit genug geht. Eliezer Yudkowsky verglich beispielsweise das Risiko von KI mit einem Atomkrieg und sagte, dass „Regierungen bereit sein sollten, ein Schurken-Rechenzentrum durch Luftangriffe zu zerstören.“126 Die Befürchtungen, dass KI ein ebenso großes Risiko für die Menschheit darstelle wie ein Atomkrieg, wurden von Jen wiederholt Easterly, Direktor der Cybersecurity and Infrastructure Security Agency (CISA).127 Sollte sich diese Analogie als gültig erweisen, was nicht der Fall sein wird, zumindest nicht in absehbarer Zeit, würde eine Pause bei der KI-Entwicklung den Gegnern nur ermöglichen, voranzukommen.

Die generative KI-Panik ist nur die jüngste in einer langen Reihe von Tech-Paniken, darunter viele im Kreativsektor. Genau wie bei früheren Innovationen im Kreativsektor nimmt die Akzeptanz generativer KI schnell zu, bietet eine Reihe von Funktionen und ermöglicht es den Menschen, neue Inhalte zu produzieren. Und genau wie bei früheren Technologien löst es bei Alarmisten Angst und Zorn aus. Frühere Paniken erreichten einen Siedepunkt – angespornt durch die symbiotische Beziehung zwischen Alarmisten und Nachrichtenmedien – und schwappten manchmal auf die politische Arena über. Während die Panik um die generative KI ihr brisantestes Stadium erreicht, bieten vergangene Tech-Paniken den politischen Entscheidungsträgern drei wichtige Lehren.

Unsicherheit und Angst können zu der falschen Annahme führen, dass eine Katastrophe unmittelbar bevorsteht. Der Punkt ist nicht, dass alle Bedenken ungültig sind. Tatsächlich hatten viele Menschen in der Vergangenheit berechtigte Bedenken gegenüber neuen Technologien, und die politischen Entscheidungsträger sollten vernünftige Debatten über die Risiken neuer Technologien im privaten Sektor, in der Zivilgesellschaft und in der Wissenschaft anregen. Aber die Geschichte der Tech-Panik in gedruckten Büchern, Filmen und Tonaufnahmen zeigt, dass viele Befürchtungen nie eingetreten sind. Nur weil ihre Bedenken nie in Erfüllung gingen, heißt das nicht, dass überhaupt keine Risiken bestanden. Stattdessen haben sich Gesellschaft und Märkte häufig angepasst, um Risiken zu mindern. Daher wäre es Aufgabe der politischen Entscheidungsträger, zu erkennen, wann sie sich mitten in einer Technologiepanik befinden, und Vorsicht walten zu lassen, wenn sie hypothetische oder übertriebene Bedenken hinsichtlich generativer KI verarbeiten, die die Diskussion über unmittelbarere und berechtigtere Bedenken verdrängen.

Wenn Alarmisten wegen gescheiterter Weltuntergangsvorhersagen aus der Vergangenheit zur Rede gestellt werden, verteidigen sie sich oft mit dem Argument des Exzeptionalismus und argumentieren, dass diese neue Technologie einzigartig und außergewöhnlich sei. Tatsächlich behaupten Untergangspropheten oft, dass „dieses Mal anders ist“, um nicht als ein weiteres Chicken Little dargestellt zu werden.128 Doch wie diese Beispiele aus der Vergangenheit zeigen, sind die Behauptungen über generative KI alles andere als neu. Kritiker vergessen oft die Vergangenheit. Im sozialen Dilemma verglich der KI-Alarmist Tristan Harris die Algorithmen der sozialen Medien mit der Erfindung des Fahrrads: „Niemand regte sich auf, als Fahrräder auftauchten; alle fuhren mit dem Fahrrad herum. Niemand sagte: ‚Oh mein Gott, wir haben es einfach ruiniert.‘ „Fahrräder beeinträchtigen die Menschen und ziehen sie von ihren Kindern weg. Sie ruinieren das Gefüge der Demokratie. Wir können nicht sagen, was wahr ist.“ So etwas über das Fahrrad haben wir nie gesagt.“129

Aber Harris hatte Unrecht. Bemerkenswert ist, dass im 19. und frühen 20. Jahrhundert ähnlich abwegige Behauptungen über Fahrräder aufgestellt wurden. Zeitungen beschuldigten Fahrräder, Menschen wahnsinnig zu machen, körperliche Beschwerden hervorzurufen und Frauen zu verwirren.130

Politische Entscheidungsträger sollten es vermeiden, bei der Formulierung politischer Maßnahmen auf aufkeimende Ängste überzureagieren, um zu verhindern, dass die generative KI durch fehlgeleitete Gesetze und Vorschriften übermäßig geschädigt wird. Zu diesem Zweck sollten die politischen Entscheidungsträger bei allen neuen Gesetzen oder Vorschriften, die direkt auf generative KI abzielen, eine Pause einlegen, bis sie die Endphase des technischen Panikzyklus erreichen. Wenn wir bis zu diesem Punkt warten, vermeiden wir, dass ungerechtfertigte Ängste die politischen Debatten dominieren. Wenn neue Gesetze und Vorschriften erforderlich sind, sollten sie auf tatsächliche und nicht auf eingebildete Schäden abzielen, um ein Gleichgewicht zu finden, das die Vorteile der Technologie schützt und gleichzeitig berechtigte Bedenken berücksichtigt und so sicherstellt, dass generative KI weiterhin ein wertvolles Instrument für die Gesellschaft ist.

Zu diesem Zweck ist regulatorische Vorsicht geboten. Einige Länder wie das Vereinigte Königreich gehen bereits vorsichtig vor. Der vorgeschlagene Rahmen zur Regulierung von KI erkennt an, dass die Schaffung neuer Gesetze für generative KI verfrüht ist.131 Im Gegensatz dazu haben die EU und China weitreichendere Maßnahmen vorgeschlagen. In der EU haben Mitglieder des Europäischen Parlaments in letzter Minute Änderungen am KI-Gesetz vorgeschlagen, um generative KI als Hochrisikotechnologie zu behandeln, obwohl sie schon seit fast einem Jahrzehnt existiert und nicht in der Folgenabschätzung der Europäischen Kommission enthalten ist das AI Act.132 Auch in China hat die Regierung spezifische Regeln für generative KI vorgeschlagen, um Ängsten vor der Technologie entgegenzuwirken.133 Und einige Gesetzgeber in den Vereinigten Staaten haben argumentiert, dass das Land dringend neue Gesetze zur Regulierung dieser aufstrebenden Technologie verabschieden muss .134 Es wäre jedoch fehlgeleitet, inmitten einer Panik in neuen Rechtsvorschriften auf generative KI abzielen zu wollen, und würde wahrscheinlich zu schlecht ausgearbeiteten Regeln führen.

Die generative KI hat in den letzten Monaten enorme Fortschritte gemacht, und mit diesen Fortschritten gehen berechtigte Hoffnungen und Ängste für die Zukunft einher. Obwohl diese Technologie über enorme Kraft und Potenzial verfügt, ist sie weder perfekt noch allmächtig. Es ist immer noch nur eine Sammlung von Codes und Daten ohne Emotionen oder Bewusstsein. In vielerlei Hinsicht neuartig, aber nicht gruselig. Politische Entscheidungsträger sollten sich an die Geschichte vergangener Tech-Paniken erinnern, erkennen, wo sich generative KI im aktuellen Panikzyklus befindet, und Ruhe bewahren. Und das bedeutet, dass Sie der Eile, die KI zu regulieren, nicht nachgeben dürfen, bevor es jemand anderes tut. Das wäre wahrscheinlich ein schlechtes Zeichen und würde dazu führen, dass die Gesellschaft Chancen verpasst.

Patrick Grady ist Politikanalyst am Center for Data Innovation mit den Schwerpunkten KI und Inhaltsmoderation. Zuvor war er Projektleiter bei der Internet Commission und arbeitete im Strategiebereich des European Institute of Innovation and Technology. Patrick hat einen Masterabschluss in Philosophie und Politikwissenschaft.

Daniel Castro ist Direktor des Center for Data Innovation und Vizepräsident der Information Technology and Innovation Foundation. Herr Castro schreibt und spricht zu einer Vielzahl von Themen im Zusammenhang mit Informationstechnologie und Internetpolitik, darunter Daten, Datenschutz, Sicherheit, geistiges Eigentum, Internet-Governance, E-Government und Barrierefreiheit für Menschen mit Behinderungen. Seine Arbeit wurde in zahlreichen Medien zitiert und zitiert, darunter The Washington Post, The Wall Street Journal, NPR, USA Today, Bloomberg News und Businessweek. Im Jahr 2013 wurde Herr Castro in die FedScoop-Liste der „25 einflussreichsten Personen unter 40 in Regierung und Technologie“ aufgenommen. Im Jahr 2015 berief US-Handelsministerin Penny Pritzker Herrn Castro in den Commerce Data Advisory Council. Herr Castro arbeitete zuvor als IT-Analyst beim Government Accountability Office (GAO), wo er IT-Sicherheit und Managementkontrollen bei verschiedenen Regierungsbehörden prüfte. Er trug zu GAO-Berichten über den Stand der Informationssicherheit bei verschiedenen Bundesbehörden bei, darunter der Securities and Exchange Commission (SEC) und der Federal Deposit Insurance Corporation (FDIC). Darüber hinaus war Herr Castro Gastwissenschaftler am Software Engineering Institute (SEI) in Pittsburgh, Pennsylvania, wo er virtuelle Trainingssimulationen entwickelte, um Kunden praktische Schulungen zu den neuesten Informationssicherheitstools zu ermöglichen. Er hat einen BS in Foreign Service von der Georgetown University und einen MS in Information Security Technology and Management von der Carnegie Mellon University.