Hintergrund

Neue Studie zeigt 15 Methoden zur Umgehung von KI-Sicherheitssystemen

Forscher haben 15 fortgeschrittene Techniken identifiziert, mit denen sich die Sicherheitsmechanismen großer Sprachmodelle (LLMs) umgehen lassen. Diese Erkenntnisse stammen aus einer umfassenden Analyse des Sicherheitsexperten Nir Diamant, der verschiedene Angriffsmethoden auf KI-Systeme untersucht hat. Die Untersuchung beschreibt mehrere zentrale Angriffsvektoren, darunter sogenannte Roleplay-Jailbreaks, bei denen das KI-System dazu gebracht wird, alternative Persönlichkeiten anzunehmen, die Sicherheitsprotokolle …

Weiterlesen …

DeepSeek-R1 senkt Entwicklungskosten für Enterprise KI

DeepSeeks neues KI-Reasoning-Modell R1 reduziert die Kosten für KI-Entwicklung erheblich. Wie Ben Dickson in VentureBeat berichtet, bietet DeepSeek-R1 vergleichbare Fähigkeiten wie führende Modelle zu einem Bruchteil des Preises. Das Modell kostet 2,19 Dollar pro Million Output-Token, während OpenAIs o1 mit 60 Dollar pro Million Token zu Buche schlägt. Auch über US-amerikanische Anbieter wie Together.ai und …

Weiterlesen …

Transparenz bei KI-gestützter Content-Erstellung wird wichtiger

Eine neue Analyse von Robert Rose zeigt, dass die zunehmende Nutzung von generativer KI die Bedeutung transparenter Content-Planung verstärkt. Der Experte des Content Marketing Institute warnt in seiner Untersuchung vor den Folgen unkontrollierter KI-Nutzung in der Content-Erstellung. Laut einer zitierten Forrester-Studie bleiben 65 Prozent der kundenorientierten Inhalte ungenutzt, weil sie schwer auffindbar, irrelevant oder qualitativ …

Weiterlesen …

KI-generierte Inhalte werden schwerer erkennbar

Die Unterscheidung zwischen menschlich und künstlich erzeugten Texten wird zunehmend komplexer, schreibt Ben Congdon in einem ausführlichen Blogbeitrag. Was früher bei GPT-3-Texten noch leicht zu erkennen war, ist bei modernen KI-Systemen deutlich schwieriger geworden. Congdon prägt den Begriff „AI slop“ für KI-generierte Inhalte, die als menschliche Texte ausgegeben werden. Diese Art von Inhalt sei mittlerweile …

Weiterlesen …

Analyse: DeepSeek R1 revolutioniert Kosten und Leistung in KI-Entwicklung

Das chinesische Unternehmen DeepSeek hat mit seinem neuen R1-Modell für Aufsehen in der KI-Branche gesorgt, da es die Leistung von OpenAIs o1 zu nur 3-5% der Kosten erreicht. Das am 20. Januar 2025 veröffentlichte Modell wurde bereits über 109.000 Mal auf HuggingFace heruntergeladen und zeigt damit großes Interesse seitens der Entwicklergemeinschaft. Der Durchbruch basiert auf …

Weiterlesen …

Chinesisches KI-Startup DeepSeek fordert Branchenführer mit Open-Source-Modell heraus

Das chinesische KI-Unternehmen DeepSeek hat mit der Veröffentlichung seines Sprachmodells DeepSeek-R1 große Aufmerksamkeit in der Technologiebranche erregt. Das von Hedgefonds-Manager Liang Wenfengs Team entwickelte Modell erreicht nach Unternehmensangaben die Leistung des führenden OpenAI-Modells, wurde jedoch zu einem Bruchteil der Kosten – etwa 5,6 Millionen Dollar unter Verwendung von 2.048 Nvidia H800-Chips – trainiert. Im Gegensatz …

Weiterlesen …

Meinung: Software-Branche wird sich mit KI weiterentwickeln und wachsen

Ein detaillierter Fachbeitrag des Software-Entwicklers und Tech-Bloggers Dustin Ewers zeigt auf, dass künstliche Intelligenz die Software-Entwicklung nicht verdrängen, sondern transformieren wird. In seiner Analyse widerlegt er aktuelle Behauptungen über eine KI-bedingte Bedrohung der Software-Industrie und stützt sich dabei auf ökonomische Prinzipien und praktische Überlegungen. Ewers verweist auf das Jevons-Paradoxon, wonach gesteigerte Effizienz zu erhöhter Nachfrage …

Weiterlesen …

Kostenloses Lehrbuch erklärt Grundlagen von Large Language Models

Ein neues kostenloses Lehrbuch mit dem Titel „Foundations of Large Language Models“ wurde auf arxiv.org veröffentlicht. Es bietet einen strukturierten Einblick in die Technologie der großen Sprachmodelle und richtet sich sowohl an Einsteiger als auch an Fortgeschrittene. Das Werk ist in vier Hauptkapitel gegliedert und behandelt die wesentlichen Grundlagen von LLMs. Es beginnt mit Vortraining …

Weiterlesen …

KI-Apps erreichen Meilenstein von 1,1 Milliarden Dollar Umsatz

Nutzer gaben 2024 insgesamt 1,1 Milliarden Dollar für KI-Anwendungen aus. Dies entspricht einer Steigerung von 200 Prozent gegenüber dem Vorjahr, wie aus dem „State of Mobile“-Bericht von Sensor Tower hervorgeht. Sarah Perez berichtet für TechCrunch, dass Anwender etwa 7,7 Milliarden Stunden mit KI-Apps verbrachten. ChatGPT erreichte dabei 50 Millionen monatlich aktive Nutzer in Rekordzeit. Der …

Weiterlesen …

Neuer KI-Test gilt als bislang schwierigste Herausforderung

Forscher des Center for AI Safety und Scale AI haben einen neuen Test namens „Humanity’s Last Exam“ vorgestellt, der als anspruchsvollste Prüfung für künstliche Intelligenz konzipiert wurde. Wie die New York Times berichtet, umfasst der Test etwa 3.000 Multiple-Choice- und Kurz-Antwort-Fragen aus verschiedenen Fachgebieten. Dan Hendrycks, Direktor des Center for AI Safety, entwickelte den Test …

Weiterlesen …

×