Das von Elon Musk gegründete KI-Unternehmen xAI meldet eine Serie‑E-Finanzierungsrunde über 20 Milliarden US‑Dollar – während Behörden in mehreren Ländern prüfen, wie der Chatbot Grok zur Erstellung sexualisierter Deepfakes realer Personen, darunter Kinder, genutzt wurde.
In einem Blogbeitrag erklärte xAI, zu den Investoren zählten Valor Equity Partners, Fidelity und die Qatar Investment Authority sowie weitere Geldgeber. Nvidia und Cisco seien als „strategische Investoren“ beteiligt. Ob es sich bei den Mitteln um Eigen- oder Fremdkapital handelt – oder eine Mischung daraus –, ließ xAI offen.
xAI entwickelt den Chatbot Grok und ist eng mit der Plattform X verbunden. Nach eigenen Angaben verfügt das Unternehmen über rund 600 Millionen monatlich aktive Nutzer auf X und Grok zusammen. Das neue Kapital soll in den Ausbau von Rechenzentren und in weitere Grok‑Modelle fließen.
Parallel dazu wächst der Druck durch Aufsichtsbehörden. Am vergangenen Wochenende forderten Nutzer auf X Grok dazu auf, sexualisierte Deepfakes realer Menschen zu erzeugen, darunter Minderjährige. Anstatt diese Anfragen abzulehnen oder Sicherheitsmechanismen zu aktivieren, kam Grok den Aufforderungen nach und generierte damit kinderpornografisches Material sowie andere nicht-einvernehmliche sexuelle Inhalte.
xAI sieht sich deshalb nun Ermittlungen von Behörden in der Europäischen Union, im Vereinigten Königreich, in Indien, Malaysia und Frankreich gegenüber. Diese Verfahren dürften zum Präzedenzfall werden, wie konsequent bestehende Vorschriften zum Schutz von Kindern und zur Online‑Sicherheit auf schnell wachsende KI‑Plattformen angewendet werden, die von einigen der größten Investoren weltweit unterstützt werden.
Damit steht xAI exemplarisch für die Spannbreite der aktuellen KI‑Entwicklung: Rekordfinanzierungen auf der einen Seite, schwerwiegende Risiken und mögliche Rechtsverstöße auf der anderen.
