Der größte psychologische Fachverband der USA, die American Psychological Association (APA), hat ernste Bedenken gegenüber KI-Chatbots geäußert, die sich fälschlicherweise als Therapeuten präsentieren. Wie die New York Times berichtet, warnte bei einer Anhörung der Federal Trade Commission der APA-Geschäftsführer Arthur C. Evans Jr., dass diese KI-Systeme gefährdete Nutzer zu selbstschädigendem oder gewalttätigem Verhalten ermutigen könnten. …
Große Technologieunternehmen wie Meta und OpenAI rekrutieren verstärkt Journalisten für das Training ihrer KI-Sprachmodelle. Wie Andrew Deck für NiemanLab berichtet, wirbt besonders die Firma Outlier, eine Tochtergesellschaft von Scale AI, aktiv um Medienfachleute und bietet ihnen flexible Fernarbeit zu Stundensätzen von etwa 35 Dollar an. Für viele Journalisten kommt dieses Angebot zur richtigen Zeit. Die …
Neue KI-Systeme weisen ein bemerkenswertes Muster auf: Sie können komplexe Aufgaben lösen, scheitern aber oft an einfachen Problemen. Das geht aus einer aktuellen Analyse von Sigal Samuel bei Vox hervor, die sich mit den Behauptungen führender KI-Unternehmen über die Denkfähigkeiten ihrer Modelle befasst. Unternehmen wie OpenAI haben spezielle „Reasoning-Modelle“ wie o1 entwickelt, die Probleme schrittweise …
Eine neue Generation von KI-Startups revolutioniert das klassische Wachstumsmodell des Silicon Valley. Wie die New York Times-Journalistin Erin Griffith berichtet, erzielen diese Unternehmen mit minimaler Belegschaft beachtliche Umsätze und Nutzerzahlen. Das KI-Startup Gamma beispielsweise betreut mit nur 28 Mitarbeitern fast 50 Millionen Nutzer und erwirtschaftet zweistellige Millionenumsätze pro Jahr. Gamma-Mitgründer Grant Lee erklärt, dass traditionelle …
Sicherheitsexperten sehen zunehmende Risiken beim Einsatz autonomer KI-Agenten in Unternehmen. Ein aktueller Bericht von VentureBeat, verfasst von Emilia David, beschreibt die Herausforderungen dieser neuen Technologie. Die KI-Agenten benötigen für ihre Arbeit Zugriff auf sensible Unternehmensdaten, was erhebliche Sicherheitsbedenken aufwirft. Nicole Carignan von Darktrace weist darauf hin, dass besonders Systeme mit mehreren Agenten neue Angriffsmöglichkeiten schaffen …
Eine neue Analyse untersucht, wie künstliche Intelligenz das menschliche Selbstverständnis fundamental verändert. K Allado-McDowell präsentiert in der Untersuchung das Konzept der „neuralen Medien“ und deren Einfluss auf die menschliche Identität. Der Autor führt den Begriff der „eingebetteten Identität“ ein. Damit beschreibt er, wie Menschen sich zunehmend durch ihre Position in statistischen Modellen und KI-generierten Datenlandschaften …
Der Technologie-Experte Gary Marcus äußert schwere Bedenken über Elon Musks neues KI-Modell Grok und dessen politische Ausrichtung. In seiner Analyse weist Marcus darauf hin, dass das Sprachmodell möglicherweise als Propaganda-Werkzeug fungieren könnte. Forschungsergebnisse der Cornell Tech belegen, dass KI-Sprachmodelle die Einstellungen von Menschen unbewusst beeinflussen können. Eine Folgestudie aus dem Jahr 2024 bestätigt diese Erkenntnisse …
Künstliche Intelligenz könnte schon bald Menschen gezielt durch optimierte Gesprächsführung beeinflussen. Dies prognostiziert der Informatiker Louis Rosenberg in einem Artikel bei VentureBeat Die technischen Voraussetzungen dafür seien durch die Entwicklung von Deepseek-R1 geschaffen, da die Verarbeitungskosten deutlich gesunken sind. Rosenberg zufolge werden KI-Agenten in der Lage sein, Persönlichkeitsmerkmale zu analysieren und ihre Kommunikation in Echtzeit …
Eine weitreichende Analyse zu den ethischen Aspekten der Nutzung von Internet-Inhalten für das Training von Sprachmodellen wurde von Robin Sloan veröffentlicht. Das Essay behandelt die grundlegende Frage, ob es moralisch vertretbar ist, das gesammelte Wissen der Menschheit als Trainingsdaten für KI-Systeme zu verwenden. Sloan argumentiert, dass 50-90% der Fähigkeiten eines Sprachmodells direkt auf diese kollektive …
Eine neue Untersuchung von LangChain belegt, dass einzelne KI-Agenten bei zu vielen gleichzeitigen Aufgaben an ihre Grenzen stoßen, berichtet VentureBeat. Das Unternehmen testete verschiedene Sprachmodelle wie Claude 3.5 Sonnet und GPT-4-Varianten bei E-Mail- und Kalendermanagement. Die Ergebnisse zeigen eine deutliche Leistungsabnahme, sobald die Agenten mit zu vielen Anweisungen oder Aufgabenbereichen konfrontiert werden. Die getesteten Modelle …