Der 38. Chaos Communication Congress (38C3) in Hamburg war die jüngste Ausgabe der jährlich stattfindenden viertägigen Konferenz über Technologie, Gesellschaft und Utopie, die vom Chaos Computer Club (CCC) und Freiwilligen organisiert wird. Aus der langen Liste der Vorträge habe ich sechs ausgewählt, die ich für die Leser des Smart Content Report und für mich besonders relevant fand. Ich habe KI-Zusammenfassungen genutzt, um die Themen und Perspektiven, die in diesen Vorträgen behandelt wurden, vorab besser zu verstehen.
Waiter, There’s An LLM In My Search!
In dieser Präsentation diskutiert Martin Hamilton die zunehmende Verbreitung von Large Language Models (LLMs) und deren Auswirkungen auf die Internetsuche und die Qualität von Informationen. Er betont die Herausforderungen, denen sich Nutzer bei der Suche nach vertrauenswürdigen Inhalten angesichts der Zunahme von gesponserten und SEO-gesteuerten Inhalten gegenübersehen, sowie die Gefahren von Malvertising. Martin warnt vor dem Übergang vom Überwachungskapitalismus zum Überwachungsfaschismus, insbesondere in Bezug auf sensible Informationen im Zusammenhang mit der Gesundheitsfürsorge und der Unterstützung bei der Geschlechtsumwandlung. Er betont die Absurdität von KI-generierten Inhalten wie halluzinierten Bildern und die Schwierigkeit, wahre Informationen von irreführenden Quellen zu unterscheiden.
Um diese Probleme anzugehen, schlägt er Strategien vor, die es den Nutzern ermöglichen, die Kontrolle über ihre Sucherfahrungen zurückzugewinnen, z. B. das Hinzufügen von Parametern zur Google-Suche und die Verwendung von Browsererweiterungen. Martin schlägt auch vor, eine Meta-Suchmaschine zu entwickeln, die sich auf die Interessen der Gemeinschaft und bestimmte Bereiche konzentriert, anstatt zu versuchen, das gesamte Web zu indizieren. Er diskutiert das Potenzial der Nutzung von APIs von Plattformen wie Mastodon, um aktuelle Themen zu finden und gleichzeitig die Privatsphäre der Nutzer zu schützen. Abschließend lädt er die Zuhörer ein, sich an einer Gemeinschaftsinitiative zu beteiligen, die darauf abzielt, die Qualität der Suche zu verbessern und die Herausforderungen zu bewältigen, die durch generative KI-Inhalte entstehen.
Sprache: English
Link zum Talk: https://media.ccc.de/v/38c3-waiter-there-s-an-llm-in-my-search
Automation and Empathy: Can We Finally Replace All Artistic Performers with Machines?
Dieser Vortrag von Moritz Simon Geist untersucht die Überschneidung von Musik, Emotionen und Automatisierung. Er diskutiert die Frage, ob Emotionen durch Musik ohne menschliches Zutun effektiv vermittelt werden können, und wirft dabei Fragen nach dem Wesen der Performance und der Rolle von Maschinen auf. Geist reflektiert über seinen Werdegang als Robotermusiker und seine Erfahrungen bei der Schaffung von Installationen, die auf die Anwesenheit von Menschen reagieren, wie sein Projekt „Don’t Look at Me“ von 2022, das Algorithmen verwendet, um seine Musik auf der Grundlage der Interaktion mit dem Publikum anzupassen.
Er kontrastiert Roboteraufführungen mit menschlichen Darbietungen und betont die Bedeutung von Handlungsfähigkeit und emotionaler Bindung für fesselnde Kunst. Geist führt den Begriff des „Uncanny Valley“ ein, der das Unbehagen beschreibt, das Menschen gegenüber menschenähnlichen Maschinen empfinden und das die emotionale Bindung beeinträchtigt. Er argumentiert, dass Roboter zwar technische Fertigkeiten imitieren können, ihnen aber die interpretativen Fähigkeiten und die Spontaneität fehlen, die menschliche Darbietungen auszeichnen.
Trotz der Fortschritte in der Automatisierung kommt Geist zu dem Schluss, dass es noch nicht möglich ist, menschliche Darsteller auf der Bühne vollständig zu ersetzen, da ihnen die Elemente der Handlungsfähigkeit und des emotionalen Engagements fehlen. Er lädt dazu ein, die kreativen Aspekte der Aufführung weiter zu erforschen, die einzigartig menschlich bleiben können.
Sprachen: English, Deutsch
Link zum Talk: https://media.ccc.de/v/38c3-automation-and-empathy-can-we-finally-replace-all-artistic-performers-with-machines
Resource Consumption of AI – Degrow or Die
Thomas Fricker, Physiker und Spezialist für Cloud-Sicherheit, diskutiert den hohen Energie- und Ressourcenverbrauch von Rechenzentren, insbesondere im Zusammenhang mit KI. Er vergleicht Rechenzentren mit Fabriken, die Rechenleistung produzieren, und betont deren massiven Energiebedarf, der in Berlin bis zu 300 Megawatt betragen kann. Die steigende Nachfrage nach KI führt zu einem exponentiellen Wachstum des Energieverbrauchs und Prognosen gehen davon aus, dass Rechenzentren bis 2030 9 % der US-Energie verbrauchen könnten.
Fricker weist auf die ökologischen Herausforderungen hin, die dieses Wachstum mit sich bringt, darunter der Wasserverbrauch für die Kühlung und die Erschöpfung von Ressourcen wie Uran und Kupfer. Er weist darauf hin, dass die Kernenergie zwar häufig als Lösung vorgeschlagen wird, deren Ausbau aber mit erheblichen Einschränkungen und Umweltbedenken verbunden ist. Er kritisiert auch die Behauptungen über die Schaffung von Arbeitsplätzen im Zusammenhang mit Rechenzentren und stellt fest, dass die Investitionen pro Arbeitsplatz unverhältnismäßig hoch sind.
Fricker fordert eine Neubewertung von Wachstumsmodellen und plädiert für einen Degrowth-Ansatz, um die Umweltauswirkungen zu reduzieren. Er betont die Notwendigkeit, die Öffentlichkeit zu sensibilisieren und Maßnahmen gegen die unkontrollierte Expansion von Rechenzentren zu ergreifen, und fordert die lokalen Gemeinschaften auf, den Ressourcenverbrauch, der mit solchen Entwicklungen verbunden ist, zu hinterfragen. Schließlich warnt er davor, dass das exponentielle Wachstum von Rechenzentren ohne signifikante Änderungen schwerwiegende ökologische und wirtschaftliche Folgen haben könnte.
Sprachen: English, Deutsch
Link zum Talk: https://media.ccc.de/v/38c3-resource-consumption-of-ai-degrow-or-die
Klimaschädlich by Design – die ökologischen Kosten des KI-Hypes
Dieser Vortrag von Friederike Karla Hildebrandt und Constanze Kurz diskutiert verschiedene Aspekte des Klimawandels und die Rolle der Technologie bei der Bewältigung von Umweltproblemen. Er beleuchtet die Bedeutung von Daten und Statistiken für das Verständnis der globalen Erwärmung und die Auswirkungen von Large Scale Modeling (LSM) auf Nachhaltigkeitsbemühungen. Ein Schwerpunkt liegt auf der Zusammenarbeit von Technologieunternehmen wie Google, Amazon und Microsoft bei der Entwicklung von Lösungen zur Eindämmung des Klimawandels. Der Vortrag geht auf die Herausforderungen des Energieverbrauchs und der Transparenz in KI-Trainingsprozessen ein. Darüber hinaus wird die Bedeutung des Engagements der Gemeinschaft und der akademischen Beiträge bei der Bewältigung dieser globalen Probleme angesprochen. Die Redner betonen die Notwendigkeit nachhaltiger Praktiken in der Technologiebranche, einschließlich Recycling und verantwortungsvollem Ressourcenmanagement. Sie diskutieren auch das Potenzial eines universellen Grundeinkommens und von Computern als Teil zukünftiger Lösungen.
Sprachen: Deutsch, English
Link zum Talk: https://media.ccc.de/v/38c3-klimaschdlich-by-design-die-kologischen-kosten-des-ki-hypes
Let’s build dodos! How generative AI is upturning the world of synthetic biology and hopelessly overwhelming traditional governance instruments
Der Vortrag von Margret Engelhard befasst sich mit der Schnittstelle zwischen künstlicher Intelligenz, synthetischer Biologie und Naturschutz, wobei der Schwerpunkt auf den Auswirkungen der sich rasant entwickelnden Biotechnologie liegt. Engelhard ist Risikobewerterin bei einer Bundesbehörde und beleuchtet die zunehmende Verbreitung gentechnisch veränderter Organismen (GVO) und die Herausforderungen bei der Bewertung ihrer Risiken für die biologische Vielfalt. Fortschritte in der DNA-Sequenzierung und -Synthese sowie die Integration von KI verändern das Feld und ermöglichen komplexere genetische Veränderungen. Sie äußert Bedenken hinsichtlich der Unvorhersehbarkeit dieser genetisch veränderten Organismen, insbesondere im Hinblick auf ihre möglichen Auswirkungen auf natürliche Ökosysteme.
Beispiele für innovative Anwendungen wie Gene Drives, die das Überleben veränderter Gene in Wildpopulationen sichern, werden ebenso vorgestellt wie ethische Fragen im Zusammenhang mit dem Aussterben von Arten wie dem Dodo. In ihrem Vortrag betonte sie die Notwendigkeit eines öffentlichen Diskurses über die gesellschaftliche Sinnhaftigkeit solcher biotechnologischen Fortschritte, da die bestehenden rechtlichen Rahmenbedingungen nur schwer mit den technologischen Veränderungen Schritt halten können. Engelhard plädiert für einen ausgewogenen Ansatz, der wirksame Regulierung, gesellschaftliche Transparenz und ethische Erwägungen bei der Entwicklung und Freisetzung gentechnisch veränderter Organismen einschließt.
Sprachen: English, Deutsch
Self Models of Loving Grace
Und zu guter Letzt möchte ich diesen Vortrag über die Natur des Bewusstseins, der künstlichen Intelligenz und des menschlichen Geistes empfehlen, präsentiert von Joscha Bach, einem Forscher mit breitem akademischen Hintergrund. Er untersucht philosophische Fragen im Zusammenhang mit Selbstwahrnehmung, Bewusstsein und dem Potenzial von KI, diese Konzepte zu reproduzieren oder zu verstehen. Zu den Schlüsselthemen gehören die Skalierbarkeits- und Universalitätshypothesen in der KI, die besagen, dass größere Modelle zu größerer Intelligenz führen und dass verschiedene Modelle zu ähnlichen Strukturen konvergieren können, wenn sie die gleichen Daten und Aufgaben erhalten. Bach vertritt die Ansicht, dass Bewusstsein ein einfacheres Konstrukt sein könnte, als oft angenommen wird, und betont die Bedeutung der Selbstmodellierung und der Beziehung zwischen Geist und Körper. Er geht auch auf den Begriff „Zimbos“ ein, d.h. Wesen, die glauben, ein Bewusstsein zu haben, denen es aber an echtem Selbstbewusstsein mangelt, und fragt, ob KI in diese Kategorie fallen könnte. In seinem Talk geht es auch um die Auswirkungen von KI-Systemen, die Bewusstsein simulieren, und um ethische Überlegungen zur Erschaffung solcher Wesen. Bach plädiert für ein tieferes Verständnis von Bewusstsein als grundlegendem Aspekt sowohl biologischer als auch künstlicher Systeme und weist darauf hin, dass die KI-Forschung Einblicke in diese tiefgreifenden Fragen geben kann.
Sprachen: English, Deutsch, Polski
Link zum Talk: https://media.ccc.de/v/38c3-self-models-of-loving-grace