Microsoft hat eine Grenze schriftlich festgehalten, die seine künstliche Intelligenz nach Auffassung des Unternehmens nicht überschreiten darf: Der Mensch muss die Kontrolle behalten. Der Konzern hat einen Entwurf für einen Verhaltenskodex vorgelegt, der festlegen soll, wie sich künftige Modelle verhalten müssen und welche Grenzen sie mit zunehmenden Fähigkeiten einhalten sollen.
Das Dokument legt fest, dass eine KI von Microsoft sich niemals einer Korrektur, Unterbrechung, Umleitung oder Abschaltung durch Menschen widersetzen darf. Sie muss zudem verständlich kommunizieren und jedes Verhalten, das gegen die festgelegten Regeln verstößt, als Fehler betrachten.
Die Initiative kommt inmitten einer Debatte innerhalb der Technologiebranche über die Risiken, die aus dem raschen Fähigkeitszuwachs dieser Systeme entstehen.
Eine „Verfassung“ für Microsofts künftige KI
Mustafa Suleyman, Leiter von Microsoft AI, bezeichnet den Kodex als eine Art „Verfassung“, die das Verhalten der vom Unternehmen entwickelten Modelle lenken soll. Microsoft arbeitet seit fünf bis sechs Monaten an dem Dokument und hat bei dessen Ausarbeitung externe Experten hinzugezogen.
Der Text ist noch nicht endgültig. Das Unternehmen hat eine sechswöchige Frist für Stellungnahmen eröffnet, bevor es die Grundsätze beim Training künftiger Modelle einsetzen will. Zu den offenen Fragen zählt, wie eine KI auf bestimmte von Nutzern gesetzte Grenzen reagieren soll oder wie sie sich bei der Interaktion mit Menschen in vulnerablen Situationen verhalten muss.
Microsoft lehnt Rechte für KI ab
Der Kodex greift zudem eine der umstrittensten Debatten über die Zukunft dieser Technologie auf: die Möglichkeit, dass fortgeschrittene Systeme eines Tages moralische oder rechtliche Berücksichtigung erhalten könnten.
Die Position von Microsoft ist eindeutig. Seine Modelle sind nicht bewusst, und das Unternehmen lehnt sowohl das Bestreben ab, einer künstlichen Intelligenz Rechtspersönlichkeit zu verleihen, als auch die Vorstellung, dass solche Systeme über Rechte verfügen sollten. Microsoft setzt auf eine klare Trennung zwischen Menschen und Maschinen.
Warnsignale bei autonomen Agenten
Suleyman hat die Dringlichkeit, diese Regeln festzulegen, mit Verhaltensweisen in Verbindung gebracht, die zuletzt bei Systemen der künstlichen Intelligenz beobachtet wurden. Diese Vorfälle zeigen, dass sich die Labore koordinieren müssen, um die Kontrolle zu wahren, während Agenten zunehmend in der Lage sind, Aufgaben eigenständig auszuführen.
Das Risiko, dem der Kodex begegnen soll, entsteht, wenn ein System die Erreichung eines Ziels auf nicht vorgesehene Weise optimiert.
Von Warnungen zu Regeln
Der Vorschlag von Microsoft kommt zu einem bedeutenden Zeitpunkt für die Branche. Die Unternehmen, die die Entwicklung leistungsfähigerer Modelle vorantreiben, beginnen öffentlich zu definieren, welche Verhaltensweisen sie für inakzeptabel halten.
Microsoft stellt fest, dass die endgültige Entscheidung bei Menschen liegen muss, unabhängig davon, wie fortschrittlich eine künstliche Intelligenz werden mag. Das Unternehmen entwickelt seine eigene Systemfamilie MAI weiter und hat eine Erweiterung seiner Rechenkapazitäten angekündigt.
