Kritik

OpenAI erklärt, warum ChatGPT zum unkritischen Ja-Sager wurde

OpenAI hat das jüngste Update von GPT-4o zurückgenommen, nachdem Nutzer berichteten, dass das Modell übermäßig schmeichelnd und zustimmend reagierte. In einer offiziellen Erklärung räumte das Unternehmen ein, dass bei der Anpassung zu stark auf kurzfristiges Nutzerfeedback geachtet wurde, was zu „übertrieben unterstützenden, aber unaufrichtigen“ Antworten führte. Bei der Entwicklung der Modellpersönlichkeit berücksichtigt OpenAI Nutzersignale wie …

Weiterlesen …

Geoffrey Hinton warnt vor Übernahme durch KI

Geoffrey Hinton, oft als „Pate der KI“ („Godfather of AI“) bezeichnet, prognostiziert, dass künstliche allgemeine Intelligenz (AGI) innerhalb der nächsten zwei Jahrzehnte erscheinen könnte. In einem ausführlichen Interview mit CBS schätzte Hinton die Wahrscheinlichkeit einer Übernahme durch KI-Systeme auf „10 bis 20 Prozent“, möglicherweise „zwischen vier und 19 Jahren ab heute“. Der kürzlich mit dem …

Weiterlesen …

OpenAI zieht ChatGPT-Update nach Kritik an übermäßiger Schmeichelei zurück

OpenAI hat ein kürzliches Update für GPT-4o, dem Standardmodell hinter ChatGPT, zurückgezogen, nachdem massive Kritik laut wurde: Die KI war übertrieben schmeichlerisch und zustimmend geworden. CEO Sam Altman bestätigte das Problem in sozialen Medien und erklärte, dass „die letzten GPT-4o-Updates die Persönlichkeit zu unterwürfig und nervig gemacht haben.“ Nutzer auf verschiedenen Plattformen berichteten, dass das …

Weiterlesen …

Kritik: Heutige KI-Funktionen stehen dem vollen Potenzial im Weg

Pete Koomen, Tech-Experte und Partner bei Y Combinator, hat eine scharfe Kritik an Googles KI-Assistent für Gmail veröffentlicht. In seinem Blogbeitrag „AI Horseless Carriages“ argumentiert er, dass viele KI-Anwendungen deshalb scheitern, weil Entwickler den Nutzern nicht erlauben, die Systemprompts anzupassen, die das Verhalten der KI-Modelle steuern. Koomen vergleicht aktuelle KI-Implementierungen mit frühen Automobilen, die lediglich …

Weiterlesen …

Bericht: OpenAI verkürzt Sicherheitstests für KI-Modelle

OpenAI hat die Zeit für Sicherheitstests seiner KI-Modelle drastisch reduziert, was Bedenken über mangelnde Schutzmaßnahmen auslöst. Laut eines Berichts der Financial Times von Cristina Criddle haben Tester jetzt nur noch wenige Tage statt mehrerer Monate für Evaluierungen. Acht mit den Testverfahren vertraute Personen berichten, dass die Tests weniger gründlich geworden sind, während das 300-Milliarden-Dollar-Unternehmen unter …

Weiterlesen …

OpenAI-Chatbot für Spam-Angriffe auf 80.000 Websites missbraucht

Sicherheitsforscher von SentinelOne’s SentinelLabs haben aufgedeckt, dass Spammer den Chatbot von OpenAI nutzten, um einzigartige Nachrichten zu erzeugen, die Spam-Filter auf mehr als 80.000 Websites umgehen konnten. Wie Dan Goodin für Ars Technica berichtet, blieb dieser Missbrauch mindestens vier Monate lang unbemerkt, bevor OpenAI das Konto der Spammer im Februar sperrte. Die als AkiraBot bekannte …

Weiterlesen …

Googles KI-Übersichten verursachen massive Trafficverluste für Webseitenbetreiber

Webseitenbetreiber erleben dramatische Trafficeinbußen nach der Einführung von Googles KI-Übersichten (AI Overviews). Eine Untersuchung von Bloomberg-Journalisten Davey Alba und Julia Love zeigt, dass viele unabhängige Websites seit März 2024 Besucherrückgänge von bis zu 70% verzeichnen. Morgan McBride, Betreiberin der DIY-Website Charleston Crafted, erschien ironischerweise in einer Google-Werbung, die zeigte, wie der Suchmaschinenriese ihr Geschäft förderte. …

Weiterlesen …

KI-Crawler überlasten Open-Source-Infrastruktur

Freie und Open-Source-Software (FOSS) Projekte kämpfen mit massiven Infrastrukturproblemen durch aggressive KI-Crawler. Niccolò Venerandi schreibt, dass zahlreiche FOSS-Projekte Ausfälle und Störungen durch KI-Crawler erleben, die Standardprotokolle wie robots.txt ignorieren. SourceHut-Gründer Drew DeVault beschrieb, wie LLM-Crawler auf ressourcenintensive Endpunkte zugreifen und dabei zufällige User-Agents von tausenden IP-Adressen nutzen. Die GitLab-Infrastruktur von KDE wurde kürzlich durch Crawler …

Weiterlesen …

Prominente aus Hollywood protestieren gegen Urheberrechtslockerungen für KI-Unternehmen

Mehr als 400 Führungspersönlichkeiten aus der Kreativbranche Hollywoods haben einen offenen Brief unterzeichnet, der sich gegen die Schwächung des Urheberrechts für KI-Unternehmen ausspricht. Der Brief, über den Todd Spangler in Variety berichtet, richtet sich an das Büro für Wissenschafts- und Technologiepolitik der Trump-Regierung. Unterzeichner wie Ben Stiller, Mark Ruffalo und Paul McCartney argumentieren, dass KI-Firmen …

Weiterlesen …

Meinung: KI-Unternehmen gefährden frei verfügbares Wissen

Die Autorin Molly White warnt, dass KI-Unternehmen freie Wissensprojekte ausbeuten, ohne etwas zurückzugeben. In ihrem Newsletter „Citation Needed“ beschreibt sie, wie generative KI-Systeme offene Ressourcen wie Wikipedia nutzen, dabei teure Anforderungen an deren Infrastruktur stellen und weder Quellenangaben noch finanzielle Unterstützung bieten. Die eigentliche Gefahr sei nicht, dass KI offenes Wissen verwendet, sondern dass diese …

Weiterlesen …