Die Debatte über KI-Sicherheit wird meist als Zielkonflikt erzählt: entweder schnell leistungsfähige Systeme entwickeln oder deren Risiken begrenzen. Das ist zu grob. In vielen technischen und biologischen Systemen wird Leistungsfähigkeit gerade dadurch beherrschbar, dass nicht alle starken Eigenschaften in einem einzigen, frei kombinierbaren System zusammenlaufen. Eine nützliche Analogie liefert die …
# Turing-CAPTCHAs: Wenn KI Geometrie versteht – und trotzdem den falschen Körper erzeugt Manchmal entsteht ein interessanter KI-Test nicht dadurch, dass man gezielt nach einer Schwachstelle sucht. Man möchte eigentlich nur ein Problem lösen – und stellt irgendwann fest, dass das wiederholte Scheitern selbst interessanter geworden ist als die ursprüngliche …
Warum wir Künstlicher Intelligenz toxische Sprache mit Obst beibringen sollten Ein Vorschlag zur moralischen Schulung von Sprachmodellen durch strukturelle Entgiftung Einleitung: Warum das Problem real ist – und unsere Antworten falsch sind Sprachmodelle wie GPT-4 wirken harmlos – sie schreiben Gedichte, fassen Artikel zusammen, erklären mathematische Probleme. Doch unter der …
