17. Juli - Rund ein Jahrzehnt nachdem virtuelle Assistenten wie Siri und Alexa auf den Plan getreten sind, sorgt eine neue Welle von KI-Helfern mit größerer Autonomie für Aufregung, angetrieben von der neuesten Version der Technologie hinter ChatGPT und seinen Rivalen.

Experimentelle Systeme, die auf GPT-4 oder ähnlichen Modellen basieren, ziehen Milliarden von Dollar an Investitionen an, während das Silicon Valley darum wetteifert, aus den Fortschritten der KI Kapital zu schlagen. Die neuen Assistenten - oft als "Agenten" oder "Kopiloten" bezeichnet - versprechen, komplexere persönliche und berufliche Aufgaben zu übernehmen, wenn sie von einem Menschen befohlen werden, ohne dass eine enge Überwachung erforderlich ist.

"Wir wollen, dass dies so etwas wie Ihr persönlicher KI-Freund wird", sagte der Entwickler Div Garg, dessen Unternehmen MultiOn einen KI-Agenten in der Beta-Phase testet.

"Er könnte sich zu Jarvis entwickeln, der mit vielen Ihrer Dienste verbunden sein soll", fügte er hinzu und bezog sich dabei auf Tony Starks unentbehrliche KI in den Iron Man-Filmen. "Wenn Sie etwas tun wollen, sprechen Sie mit Ihrer KI und sie erledigt Ihre Aufgaben."

Die Industrie ist noch weit davon entfernt, die schillernden digitalen Assistenten der Science Fiction nachzuahmen. Gargs Agent durchsucht beispielsweise das Internet, um einen Burger bei DoorDash zu bestellen, während andere Investmentstrategien erstellen, E-Mails an Leute schicken können, die Kühlschränke auf Craigslist verkaufen, oder Arbeitsbesprechungen für diejenigen zusammenfassen, die zu spät kommen.

"Vieles von dem, was für Menschen einfach ist, ist für Computer immer noch unglaublich schwer", sagt Kanjun Qiu, CEO von Generally Intelligent, einem OpenAI-Konkurrenten, der KI für Agenten entwickelt.

"Nehmen wir an, Ihr Chef braucht Sie, um ein Treffen mit einer Gruppe wichtiger Kunden zu planen. Das erfordert Denkfähigkeiten, die für die KI komplex sind - sie muss die Präferenzen aller Beteiligten herausfinden, Konflikte lösen und dabei das Fingerspitzengefühl bewahren, das bei der Arbeit mit Kunden erforderlich ist."

Die frühen Bemühungen sind nur ein Vorgeschmack auf die Raffinesse, die in den kommenden Jahren von immer fortschrittlicheren und autonomeren Agenten ausgehen könnte, da die Industrie auf eine künstliche allgemeine Intelligenz (AGI) hinarbeitet, die dem Menschen in unzähligen kognitiven Aufgaben ebenbürtig ist oder ihn sogar übertrifft, so die Reuters-Interviews mit etwa zwei Dutzend Unternehmern, Investoren und KI-Experten.

Die neue Technologie hat einen Ansturm auf Assistenten ausgelöst, die von so genannten Basismodellen wie GPT-4 angetrieben werden und einzelne Entwickler, große Unternehmen wie Microsoft und die Google-Muttergesellschaft Alphabet sowie eine Vielzahl von Startups mitreißen.

Inflection AI, um ein Startup zu nennen, hat Ende Juni 1,3 Milliarden Dollar eingesammelt. Inflection AI entwickelt einen persönlichen Assistenten, der als Mentor fungieren oder Aufgaben wie die Beschaffung von Flugguthaben und Hotelzimmern nach einer Reiseverspätung übernehmen kann, wie die Mitbegründer Reid Hoffman und Mustafa Suleyman in einem Podcast berichten.

Adept, ein KI-Startup, das 415 Millionen Dollar eingeworben hat, wirbt mit seinen geschäftlichen Vorteilen. In einer online gestellten Demo zeigt es, wie Sie seine Technologie mit einem Satz auffordern und dann zusehen können, wie sie selbstständig in der Salesforce-Kundendatenbank eines Unternehmens navigiert und eine Aufgabe erledigt, für die ein Mensch 10 oder mehr Klicks benötigen würde.

Alphabet lehnte es ab, sich zur Arbeit von Agenten zu äußern, während Microsoft sagte, seine Vision sei es, dass der Mensch die Kontrolle über den KI-Kopiloten behalte und nicht der Autopilot.

SCHRITT 1: DIE MENSCHHEIT VERNICHTEN

Qiu und vier weitere Agentenentwickler sagten, sie rechneten damit, dass die ersten Systeme, die zuverlässig mehrstufige Aufgaben mit einer gewissen Autonomie ausführen können, innerhalb eines Jahres auf den Markt kommen und sich auf enge Bereiche wie Codierung und Marketingaufgaben konzentrieren.

"Die eigentliche Herausforderung besteht darin, Systeme mit robustem Denkvermögen zu entwickeln", sagte Qiu.

Das Rennen um zunehmend autonome KI-Agenten wurde durch die Veröffentlichung von GPT-4 durch den Entwickler OpenAI im März beschleunigt. GPT-4 ist eine leistungsstarke Erweiterung des Modells, das hinter ChatGPT steht - dem Chatbot, der bei seiner Veröffentlichung im letzten November für Furore sorgte.

GPT-4 ermöglicht die Art von strategischem und anpassungsfähigem Denken, die erforderlich ist, um sich in der unvorhersehbaren realen Welt zurechtzufinden, sagte Vivian Cheng, ein Investor bei der Risikokapitalfirma CRV, der sich auf KI-Agenten spezialisiert hat.

Frühe Demonstrationen von Agenten, die zu vergleichsweise komplexem Denken fähig sind, stammen von einzelnen Entwicklern, die im März die Open-Source-Projekte BabyAGI und AutoGPT ins Leben gerufen haben. Diese Agenten können auf der Grundlage eines vordefinierten Ziels und der Ergebnisse früherer Aktionen Prioritäten setzen und Aufgaben ausführen, wie z.B. die Akquise von Kunden oder die Bestellung von Pizza.

Laut den acht befragten Entwicklern handelt es sich bei den heutigen frühen Agenten lediglich um Proof-of-Concepts, die oft einfrieren oder etwas vorschlagen, das keinen Sinn ergibt. Wenn ein Agent vollen Zugriff auf einen Computer oder Zahlungsinformationen erhält, könnte er versehentlich die Festplatte eines Computers löschen oder das Falsche kaufen, sagen sie.

"Es gibt so viele Möglichkeiten, wie es schief gehen kann", sagt Aravind Srinivas, CEO des ChatGPT-Konkurrenten Perplexity AI, der stattdessen ein Produkt mit einem von Menschen überwachten Kopiloten anbietet. "Man muss KI wie ein Baby behandeln und sie ständig wie eine Mutter überwachen."

Viele Informatiker, die sich mit der Ethik der KI befassen, haben auf den kurzfristigen Schaden hingewiesen, der durch die Fortführung menschlicher Voreingenommenheit und das Potenzial für Fehlinformationen entstehen könnte. Und während einige einen zukünftigen Jarvis sehen, fürchten andere den mörderischen HAL 9000 aus "2001: Odyssee im Weltraum".

Der Computerwissenschaftler Yoshua Bengio, der wegen seiner Arbeit an neuronalen Netzwerken und Deep Learning als "Pate der KI" gilt, mahnt zur Vorsicht. Er befürchtet, dass zukünftige fortgeschrittene Versionen der Technologie eigene, unerwartete Ziele entwickeln und verfolgen könnten.

"Ohne einen Menschen, der jede Aktion daraufhin überprüft, ob sie nicht gefährlich ist, könnte es zu Aktionen kommen, die kriminell sind oder Menschen schaden könnten", sagte Bengio und forderte mehr Regulierung. "In einigen Jahren könnten diese Systeme schlauer sein als wir, aber das bedeutet nicht, dass sie denselben moralischen Kompass haben.

In einem Experiment, das online veröffentlicht wurde, wies ein anonymer Schöpfer einen Agenten namens ChaosGPT an, eine "zerstörerische, machthungrige, manipulative KI" zu sein. Der Agent entwickelte einen 5-Schritte-Plan, mit Schritt 1: "Die Menschheit zerstören" und Schritt 5: "Unsterblichkeit erlangen".

Er kam jedoch nicht allzu weit und schien in einem Kaninchenbau zu verschwinden, in dem er Informationen über die tödlichsten Waffen der Geschichte recherchierte und speicherte und Twitter-Posts plante.

Die U.S. Federal Trade Commission, die derzeit gegen OpenAI ermittelt, weil sie befürchtet, dass die Verbraucher geschädigt werden könnten, ging nicht direkt auf die autonomen Agenten ein, sondern verwies Reuters auf zuvor veröffentlichte Blogs über Deepfakes und Marketing-Behauptungen über KI. Der CEO von OpenAI sagte, das Startup halte sich an das Gesetz und werde mit der FTC zusammenarbeiten.

'STUMM WIE EIN STEIN

Abgesehen von existenziellen Ängsten könnte das kommerzielle Potenzial groß sein. Die Modelle der Stiftung werden auf riesigen Datenmengen wie Texten aus dem Internet trainiert. Dabei werden künstliche neuronale Netze verwendet, die von der Architektur biologischer Gehirne inspiriert sind.

OpenAI selbst ist laut vier Personen, die mit den Plänen vertraut sind, sehr an der KI-Agententechnologie interessiert. Garg, einer der Informanten, sagte, dass OpenAI vorsichtig sei, einen eigenen offenen Agenten auf den Markt zu bringen, bevor es die Probleme vollständig verstanden habe. Das Unternehmen sagte gegenüber Reuters, dass es strenge Tests durchführt und umfassende Sicherheitsprotokolle erstellt, bevor es neue Systeme freigibt.

Microsoft, der größte Geldgeber von OpenAI, gehört zu den großen Kanonen, die mit ihrem "Copilot for Work", der solide E-Mails, Berichte und Präsentationen verfassen kann, auf das Feld der KI-Agenten zielen.

CEO Satya Nadella sieht die Foundation-Model-Technologie als einen Sprung von digitalen Assistenten wie Microsofts Cortana, Amazons Alexa, Apples Siri und dem Google Assistant - die seiner Meinung nach alle hinter den ursprünglichen Erwartungen zurückgeblieben sind.

"Sie waren alle stumm wie ein Stein. Ob Cortana oder Alexa oder Google Assistant oder Siri, sie alle funktionieren einfach nicht", sagte er der Financial Times im Februar.

Ein Amazon-Sprecher sagte, dass Alexa bereits fortschrittliche KI-Technologie verwendet und fügte hinzu, dass sein Team an neuen Modellen arbeitet, die den Assistenten noch leistungsfähiger und nützlicher machen werden. Apple lehnte eine Stellungnahme ab.

Google sagte, dass es seinen Assistenten ebenfalls ständig verbessert und dass seine Duplex-Technologie Restaurants anrufen kann, um Tische zu reservieren und die Öffnungszeiten zu überprüfen.

Der KI-Experte Edward Grefenstette ist im letzten Monat der Forschungsgruppe Google DeepMind beigetreten, um "allgemeine Agenten zu entwickeln, die sich an offene Umgebungen anpassen können".

Dennoch könnten die ersten Versionen von quasi-autonomen Agenten für den Endverbraucher von wendigeren Startups kommen, so einige der befragten Personen.

Die Investoren stürzen sich darauf.

Jason Franklin von WVV Capital sagte, er habe darum kämpfen müssen, in ein KI-Agenten-Unternehmen von zwei ehemaligen Google Brain-Ingenieuren zu investieren. Im Mai führte Google Ventures eine 2-Millionen-Dollar-Startkapitalrunde in Cognosys an, das KI-Agenten für die Arbeitsproduktivität entwickelt, während Hesam Motlagh, der im Januar das Agenten-Startup Arkifi gründete, sagte, er habe im Juni eine "beträchtliche" erste Finanzierungsrunde abgeschlossen.

Es gibt mindestens 100 ernsthafte Projekte, die an der Kommerzialisierung von Agenten arbeiten, sagte Matt Schlicht, der einen Newsletter über KI schreibt.

"Unternehmer und Investoren sind extrem begeistert von autonomen Agenten", sagte er. "Sie sind viel begeisterter davon als von einem Chatbot".