Forschung

KI erreicht hohe Erfolgsquote bei personalisierten Phishing-Angriffen

Eine neue Studie zeigt, dass KI außergewöhnlich erfolgreich personalisierte Phishing-E-Mails erstellen und versenden kann. Die Erfolgsquote liegt bei über 50 Prozent. Die Forschungsarbeit von Simon Lermen und Fred Heiding wurde jetzt veröffentlicht. Die Wissenschaftler verglichen vier verschiedene Methoden des Phishings: zufällige traditionelle Phishing-E-Mails, von Experten erstellte Nachrichten, vollautomatische KI-Nachrichten und KI-Nachrichten mit menschlicher Überprüfung. Beide …

Weiterlesen …

Sicherheitsforscher extrahiert KI-Modelle aus Mobile Apps

Sicherheitsforscher Altay Akkus hat aufgezeigt, wie sich KI-Modelle aus mobilen Anwendungen extrahieren lassen. In seiner technischen Analyse demonstrierte er den Prozess anhand der Apps Microsoft Seeing AI und Adobe Scan. Akkus nutzte beispielsweise das Tool Frida, um das Währungserkennungsmodell aus der Seeing AI App zu extrahieren. Diese App wurde ursprünglich entwickelt, um Sehbehinderten bei der …

Weiterlesen …

6 interessante KI-Vorträge vom 38C3 in Hamburg

Der 38. Chaos Communication Congress (38C3) in Hamburg war die jüngste Ausgabe der jährlich stattfindenden viertägigen Konferenz über Technologie, Gesellschaft und Utopie, die vom Chaos Computer Club (CCC) und Freiwilligen organisiert wird. Aus der langen Liste der Vorträge habe ich sechs ausgewählt, die ich für die Leser des Smart Content Report und für mich besonders …

Weiterlesen …

Meta entwickelt neue KI-Denkmethode „Coconut“

Meta AI hat eine neuartige Methode entwickelt, die es großen Sprachmodellen ermöglicht, in einem kontinuierlichen latenten Raum zu denken, statt nur mit Worten zu arbeiten. Die als „Coconut“ (Chain of Continuous Thought) bezeichnete Methode wechselt zwischen Sprach- und Gedankenmodus. Dies ermöglicht eine flexiblere Herangehensweise an komplexe Probleme. Das Verfahren zeigt besondere Stärken bei Aufgaben, die …

Weiterlesen …

Forscher arbeiten an neuen Evaluierungsmethoden für KI

Führende KI-Forschungseinrichtungen entwickeln anspruchsvollere Evaluierungsmethoden, da aktuelle KI-Modelle bei herkömmlichen Tests regelmäßig Höchstleistungen erzielen. Wie Tharin Pillay für Time Magazine berichtet, können traditionelle Bewertungsmaßstäbe die heutigen KI-Fähigkeiten nicht mehr effektiv messen. Zu den neuen Bewertungsrahmen gehört FrontierMath, das von Epoch AI in Zusammenarbeit mit führenden Mathematikern entwickelt wurde und außergewöhnlich schwierige mathematische Probleme präsentiert. Bei …

Weiterlesen …

KI-Halluzinationen treiben wissenschaftliche Entdeckungen voran

Wissenschaftler nutzen zunehmend KI-generierte „Halluzinationen“ als effektives Werkzeug für Durchbrüche in der Forschung, berichtet William J. Broad in der New York Times. Diese computergenerierten Erfindungen helfen demnach bei der Entwicklung neuer Proteine, Medikamente und medizinischer Behandlungen. Der Nobelpreisträger David Baker verwendete KI-Halluzinationen etwa, um Millionen neuer, in der Natur nicht vorkommender Proteine zu erschaffen, die …

Weiterlesen …

Bedeutende KI-Durchbrüche verändern Technologielandschaft

In den vergangenen vier Wochen hat sich die KI-Landschaft grundlegend weiterentwickelt. Der Technologieforscher Ethan Mollick dokumentiert in seiner Analyse mehrere bahnbrechende Entwicklungen. So ist die Anzahl leistungsfähiger KI-Modelle deutlich gestiegen. Aktuell existieren sechs bis zehn Modelle auf GPT-4-Niveau, während Ende 2023 nur eines verfügbar war. Unternehmen wie OpenAI, Google, Meta und Anthropic haben neue Systeme …

Weiterlesen …

Warum KI-Modelle sich an langen Texten verschlucken

Große Sprachmodelle erreichen bei der Verarbeitung umfangreicher Texte zunehmend ihre technischen Grenzen, wie Timothy B. Lee in einer ausführlichen Analyse für Ars Technica berichtet. Das Hauptproblem liegt in der quadratisch steigenden Rechenleistung bei wachsender Textlänge. Aktuelle Modelle wie GPT-4o können etwa 200 Seiten Text verarbeiten, während Google’s Gemini 1.5 Pro etwa 2.000 Seiten bewältigt. Die …

Weiterlesen …

Neue Rechentechnik verhilft kleinen Sprachmodellen zu Durchbruch

Forscher von Hugging Face haben eine neue Methode entwickelt, die kleinen Sprachmodellen ermöglicht, bessere Leistungen als größere Modelle zu erzielen. Wie Ben Dickson für VentureBeat berichtet, erreichte ein Llama-3-Modell mit nur 3 Milliarden Parametern die gleiche Leistung wie seine Version mit 70 Milliarden Parametern bei komplexen mathematischen Aufgaben. Die Methode basiert auf der Skalierung der …

Weiterlesen …

Neue Studie zeigt simple Methode für KI-Jailbreak

Forscher von Anthropic haben eine automatisierte Methode entdeckt, die Sicherheitssperren von KI-Systemen offenbar leicht überwinden kann. Wie Emanuel Maiberg in 404 Media berichtet, funktioniert diese „Best-of-N Jailbreaking“ genannte Technik durch zufällige Änderungen in der Schreibweise und Großschreibung von Texteingaben. Die Methode war bei mehr als 50 Prozent der Versuche erfolgreich und wurde an führenden KI-Modellen …

Weiterlesen …