Foto: KellySHUTSTOC - shutterstock.com
Salesforce will über seine Venture-Capital-Sparte rund 250 Millionen Dollar in KI-Startups investieren. Im Visier des Anbieters Cloud-basierter Business-Software stehen dabei vor allem Unternehmen, die sich auf die Entwicklung von Tools für Generative KI spezialisiert haben. Es gehe darum, das Ökosystem der Start-ups zu stärken und die Entwicklung einer verantwortungsvollen generativen KI voranzutreiben, heißt es in einer Mitteilung von Salesforce.
Folgende vier Startups sollen Geld von Salesforce bekommen:
Anthropic, das wie OpenAI an sogenannten Generative-Pretrained-Transformer- (GPT-)Modellen arbeitet, bezeichnet sich selbst als "KI-Sicherheits- und Forschungsunternehmen", das vorhersehbarere und besser steuerbare KI-Systeme bauen will. Die Modelle sollen weniger Bias-anfällig sein und nicht halluzinieren. Darunter versteht man, dass Kommentare und Antworten zunehmend unsinnig werden, wenn User die Bots in längere Konversationen verstricken. Neben Salesforce hat auch die Google-Mutter Alphabet massiv in Anthropic investiert.
Die zweite KI-Company Cohere ist ein 2019 in Kanada gegründetes Startup, das an KI-Modellen für die Verarbeitung natürlicher Sprache arbeitet. Cohere zielt darauf ab, die Mensch-Maschine-Kommunikation zu verbessern und Sprach-KI für ein breiteres Spektrum von Unternehmen zugänglich zu machen.
Lösungen für ein KI-Agenten-basiertes Relationship Management entwickelt Hearth AI. KI-Modelle sollen lernen, die komplexen sozialen Netzwerke der Menschen nachzuahmen und dabei helfen, die Beziehungen besser zu sortieren und zu organisieren. Die Verantwortlichen von Hearth AI sprechen von einem Network Co-Pilot.
Last, but not least investierte Salesforce auch in You.com. Das Unternehmen hat eine KI-gestützte Suchmaschine entwickelt, die Suchergebnisse nach Kategorien zusammenfasst und nicht als Liste präsentiert. User können diese Kategorien nach eigenen Vorstellungen sortieren. Das soll die Such-Experience und auch den Datenschutz verbessern. You.com wurde von ehemaligen Salesforce-Mitarbeitern gegründet. Das Startup verwendet in seinen Tools GPT-Modelle von OpenAI und baut auf Suchergebnissen von Google und Microsofts Bing auf.
Vorsicht: Toxizität und Missbrauch
Salesforce sieht die Chancen durch die neue KI-Generation, warnt aber auch: Eine unüberlegte oder unvorsichtige Entwicklung von generativen KI-Systemen könne echte Nachteile mit sich bringen. Der SaaS-Anbieter spricht von "erlernter Toxizität und vielfältigen Missbrauchsmöglichkeiten", beispielsweise wenn Menschen KI-generierte Inhalte als ihre eigenen ausgäben.
Salesforce braucht eine gute Zukunfts-Story, um aktionistische Investoren ruhig zu stellen. Lesen Sie, was bei Salesforce derzeit los ist:
Benioff beruhigt Investoren: Salesforce gelingt versöhnlicher Jahresabschluss
Druck auf Mitarbeiter steigt: Salesforce in den Fängen der "Aasgeier"
Milliarden-Investment von Elliott: Heuschrecken nehmen Salesforce aufs Korn
Werden Slack und Tableau integriert? Salesforce verliert immer mehr Top-Manager
Diese Technologien kämen so schnell auf den Markt, dass es wichtig sei, diesen Prozess verantwortungsvoll zu begleiten und zu adaptieren, schreiben Kathy Baxter, Principal Architect für einen ethische KI-Einsatz bei Salesforce, und Paula Goodman, Chief Ethical and Humane Use Officer, in einem Blogbeitrag. "Es reicht nicht aus, die technologischen Fähigkeiten der generativen KI bereitzustellen." Vielmehr müsse man genau untersuchen, wie diese transformative Technologie genutzt werden kann und sollte.
Die KI-Entwicklung von Salesforce orientiert sich an einer Reihe von Regeln, die aus dem "Rome Call for AI Ethics" resultieren. Dabei handelt es sich um eine Erklärung aus dem Jahr 2020. Tech-CEOs, Vertreter verschiedener Religionen sowie Repräsentanten von Regierungen und Wissenschaft verpflichteten sich dazu, KI-Systeme zu entwickeln, die unvoreingenommen, transparent, sicher und integrativ funktionieren.
Auch "Einstein" soll GPT bekommen
Für Salesforce ist KI nichts Neues. Der US-Anbieter setzt entsprechende Technologien bereits seit Jahren für Vertriebs-, Service-, Marketing- und Handelsanwendungen ein. User sollen damit das Verhalten von Kunden, Mitarbeitern und Partnern schnell analysieren und darauf aufbauend die Experience dieser Gruppen verbessern können. Die eigenen KI-Angebote fasst Salesforce seit 2016 in der Einstein-Produktfamilie zusammen. Dazu gehören unter anderem Werkzeuge für Predictive Analytics. Salesforce arbeitet außerdem an neuen Tools, beispielsweise Einstein GPT, das den Kunden generative KI bieten soll.
Laut einer Umfrage des Unternehmens genießt die Technik hohe Aufmerksamkeit und Priorität bei den Kunden - trotz aller nach wie vor weit verbreiteten ethischen Bedenken beim KI-Einsatz und Befürchtungen, dass die Tools Fehler machen könnten. Der Anbieter hat über 500 IT-Verantwortliche in Amerika befragen lassen. Zwei Drittel erklärten, sie würden dem Thema Generative KI in den kommenden 18 Monaten eine hohe Priorität einräumen. Ein Drittel sagte sogar, die Technik habe in ihren Unternehmen die höchste Priorität.