Bias, Sicherheit, Alignment, Datenschutz und gesellschaftliche Folgen des KI-Einsatzes im großen Maßstab.
Forscher haben einen Vorschlag entwickelt, bei dem Vorschullehrer Körperkameras tragen sollten, um Videoaufnahmen des Unterrichtsalltags als Trainingsdaten für KI-Modelle zu erfassen. Ziel war es, kindliche Lernprozesse und pädagogische Interaktionen für zukünftige Bildungs-KI…
OpenAI hat eine offizielle Partnerschaft mit der Regierung Maltas bekannt gegeben, die allen maltesischen Staatsangehörigen kostenlosen Zugang zu ChatGPT Plus gewähren soll. Das Programm ist an die Absolvierung eines staatlich begleiteten KI-Literacy-Kurses geknüpft, der veran…
Berichte aus Israel beleuchten den Einsatz eines KI-gestützten Targeting-Systems, das Mobilfunkdaten sowie Verhaltensmuster auswertet, um militärische Ziele zu klassifizieren. Das System operiert nach dem Prinzip der sogenannten 'Signature Strikes' – anstelle individueller, me…
Anthropic präsentiert mit 'Teaching Claude Why' einen bemerkenswerten Ansatz, der das Alignment-Problem weniger als technisches Optimierungsproblem, sondern vielmehr als pädagogische Herausforderung begreift. Statt Claude durch bloße Reinforcement-Signale zu formen, setzt das …
Anthropic verfolgt einen neuen Ansatz im KI-Alignment: Statt Claude lediglich mit Regeln und Reinforcement-Learning auf erwünschtes Verhalten zu trainieren, soll das Modell die zugrundeliegenden Prinzipien und ethischen Begründungen aktiv vermittelt bekommen. Die Idee dahinter…