GoTo Trust Center für KI

Zuletzt geändert am 3. März 2025

Einleitung

GoTo stellt seinen Kunden Tools zur Verfügung, mit denen sie ihre Produktivität und Effizienz steigern können, indem künstliche Intelligenz (KI) in unsere Produkte für Geschäftskommunikation, Zusammenarbeit, Remote-Support und IT-Management („GoTo-Dienste“) integriert wird.

Wir nutzen Large Language Models (LLMs) und grundlegende KI-Modelle, und können so immer mehr Anwendungsfälle in unseren GoTo-Diensten unterstützen. Wir setzen beispielsweise interaktive KI-basierte Assistenten ein, und wir nutzen Vorschläge zur Behebung von IT-Problemen, die Erstellung und Analyse von Skripten für das IT-Management, die Zusammenfassung von Meetings und Telefonaten sowie die Bereitstellung von operativen Geschäftseinblicken.

KI bietet zwar erhebliche Vorteile, entwickelt sich aber auch sehr schnell weiter und birgt potenzielle Risiken. Auf dieser Seite erläutern wir den Ansatz von GoTo hinsichtlich sicherer Entwicklungspraktiken, die darauf ausgelegt sind, diese Risiken zu bewältigen und unseren Kunden dabei zu helfen, von KI-basierten Features und Funktionen zu profitieren.

Für ToGo stehen Datenschutz und Sicherheit bei der Entwicklung jeder KI-Funktion an erster Stelle. Weitere Informationen zu den Datenschutz- und Sicherheitsprogrammen von GoTo finden Sie in unserem Trust Center.

Verantwortungsvoller Einsatz von KI bei GoTo

GoTo hat sich dazu verpflichtet, künstliche Intelligenz verantwortungsbewusst einzusetzen, um Produktfunktionen bereitzustellen, die die Effizienz steigern und gleichzeitig vor unethischen oder anderweitig schädlichen Ergebnissen schützen. Daher wurden unsere KI-gestützten Produktfunktionen unter Berücksichtigung der Grundsätze verantwortungsvoller KI entwickelt:

Fairness. Maßnahmen zum Schutz vor voreingenommenen oder diskriminierenden Ergebnissen. Dazu gehört auch, die Verwendung von Eingabedaten, die zu einem diskriminierenden Modellverhalten führen können, so gering wie möglich zu halten.
Transparenz. Kunden und Endbenutzer sind sich darüber bewusst, dass sie mit KI interagieren und KI-gestützte Funktionen nutzen. GoTo erklärt, wie und wo KI in Produkte integriert wird und wie sie funktioniert.
Rechenschaftspflicht. Es werden Überwachungs- und Prüfmechanismen eingesetzt, um unerwartete oder schädliche Ergebnisse zu erkennen. Die Funktionen sind so konzipiert, dass sie eine menschliche Überwachung und Kontrolle ermöglichen, die den Risiken und der Art der KI-gestützten Funktion angemessen ist.
Datenschutz und Sicherheit. GoTo setzt robuste Systemkonzepte um und führt regelmäßige Tests und Überprüfungen durch, um alle Daten zu schützen. „Privacy by Design“ wird in die Entwicklung KI-gestützter Funktionen integriert, die so konzipiert sind, dass sie nur die Mindestmenge an Daten verarbeiten, die für die Erfüllung ihres Zwecks erforderlich ist.
Ethische Nutzung. KI wird ausschließlich für positive und nicht schädliche Zwecke eingesetzt. Es gibt Kontrollmechanismen zum Schutz vor KI-Halluzinationen, Falschinformationen, Ungenauigkeiten, Menschenrechtsverletzungen und anderen potenziell schädlichen Ergebnissen.

Leitprinzip: Unser KI-Vertrauensmodell

Der Ansatz von GoTo bei der Entwicklung von KI-Funktionen umfasst die Implementierung von Vertrauensbarrieren, mit denen die Daten der Nutzer voneinander und von der Produktinfrastruktur getrennt werden. Dieses Vertrauensmodell geht davon aus, dass eine vertrauenswürdige Infrastruktur weder Menschen noch KI-Modelle in derselben Vertrauensenklave umfassen darf, wie in der folgenden Abbildung dargestellt.

Das Diagramm zeigt zwei Benutzer, Benutzer A und Benutzer B, die einen GoTo-Dienst nutzen, der eine LLM-basierte Funktion enthält, was durch den Pfeil zum LLM gekennzeichnet ist. Die rote Linie stellt Vertrauensbarrieren dar, die zum Schutz sensibler Informationen und Funktionen sowie zur Trennung der Nutzer untereinander und von der Produktinfrastruktur – einschließlich des LLM – eingerichtet wurden. Diese Vertrauensbarrieren ermöglichen Vertrauensprüfungen (z. B. Authentifizierung, Autorisierung und Plausibilitätsprüfungen), wann immer Kontroll- oder Datenflüsse sie passieren.

LLM-Diagramm

Wie dieses Diagramm zeigt, hat Benutzer B keinen Zugriff auf Daten oder Geräte, die Benutzer A gehören.

Dieses Vertrauensmodell trägt dazu bei, Kundendaten vor unbefugtem Zugriff oder unbefugter Nutzung zu schützen und die Dienste von GoTo vor Angriffen oder Sicherheitslücken zu bewahren.

Schutzmechanismen

Bei der Entwicklung von LLM-Anwendungen oder LLM-basierten Funktionen informiert sich GoTo regelmäßig über LLM-spezifische und andere KI-bezogene Risiken wie Prompt-Injection, Verfälschung von Trainingsdaten und Schwachstellen in der Lieferkette und trifft entsprechende Schutzmaßnahmen, um diesen Risiken entgegenzuwirken. Unter Berücksichtigung des Vertrauensmodells von GoTo und der allgemeinen Risiken im Zusammenhang mit KI setzen wir verschiedene Mechanismen ein, die im Folgenden näher erläutert werden, darunter die Kontrolle durch den Menschen und die Mandantenfähigkeit. Diese Mechanismen sollen unseren Benutzern dabei helfen, die Vorteile von KI-Anwendungen und -Funktionen auf eine Weise zu nutzen, die die Datensicherheit gewährleistet.

KI-Modelle bieten zwar wertvolle Möglichkeiten zur Automatisierung von Aufgaben, zur Generierung von Antworten auf Anfragen und zur Erstellung verschiedener Ergebnisse, doch Benutzer sollten stets bedenken, dass sich KI-Modelle von herkömmlichen Software-Diensten unterscheiden, da sie falsche Antworten oder unbeabsichtigte Ergebnisse liefern können. Wenn Sie KI-basierte Anwendungen nutzen, sollte das Vertrauen, das Sie in die Ergebnisse von KI-Modellen (einschließlich LLMs) setzen, in etwa dem Vertrauen entsprechen, das Sie in Ergebnisse oder Beiträge setzen, die von anderen Benutzern erstellt wurden. Kurz gesagt: Vertrauen ist gut, Kontrolle ist besser – Sie sollten stets die Vollständigkeit und Richtigkeit von KI-Ergebnissen überprüfen, die als Antwort auf Ihre Benutzeranfragen generiert werden.

Vor diesem Hintergrund werden bei der Einbindung von KI in GoTo-Dienste gegebenenfalls die folgenden Schutzmechanismen umgesetzt:

Der Mensch hat die Kontrolle. KI-gestützte Funktionen sind so konzipiert, dass der Benutzer letztendlich entscheidet, ob und wie die von einem KI-Modell (wie beispielsweise einem LLM) generierten Ergebnisse verwendet werden. Die Benutzer der Produkte behalten die Kontrolle, und sensible Vorgänge erfordern eine menschliche Freigabe.
Mandantenfähigkeit mit LLM. GoTo stellt sicher, dass einzelne Benutzer separate Sitzungen (Konversationen) mit dem LLM-Dienst führen, auf die andere Benutzer keinen Zugriff haben. Das bedeutet, dass andere Benutzer keinen Zugriff auf sensible Informationen haben, die versehentlich in einem Prompt weitergegeben wurden.
Kundendaten werden nicht von Dritten zum Trainieren ihres LLM-Dienstes verwendet. Bei der Bereitstellung von KI-gestützten Funktionen durch Drittanbieter ist es diesen untersagt, die Daten von GoTo-Kunden zu Trainingszwecken zu verwenden.
Validierung von Eingabe und Ausgabe. Die Dienste von GoTo überprüfen das Format der Eingaben mithilfe gängiger Validierungsverfahren, darunter reguläre Ausdrücke und Parser. Unsere Dienste weisen bestimmte Arten unerwarteter Ein- und Ausgabedaten auf der Grundlage von Validierungsergebnissen zurück, um Sicherheitsrisiken zu verringern, Datenverlust oder -beschädigung zu verhindern und Fehler zu minimieren. Beispielsweise prüfen wir auf unerwartete Eingaben und Ausgaben, die auf Text Injections, irrelevante Prompts, beschädigte Daten oder unbeabsichtigte Fehler hindeuten.

Transparenz: Nutzung von KI-Funktionen

Wir sind bestrebt, KI-gestützte Funktionen in den GoTo-Diensten klar zu kennzeichnen. Beispielsweise kennzeichnen wir Funktionen, die KI nutzen, entweder durch einen entsprechenden Text oder mit einem diamantähnlichen Symbol, wie unten dargestellt. Unsere Kunden können wählen, ob sie die Funktion nutzen bzw. das bereitgestellte Ergebnis verwenden möchten oder nicht. In manchen Fällen können Kunden oder Benutzer KI-gestützte Funktionen, die sie nicht nutzen möchten, deaktivieren. Weitere Informationen finden Sie auf den produktspezifischen Support-Seiten.

Beispiele für die Kennzeichnung von KI-Funktionen:

Transparenz: Verwendung von Daten

In bestimmten Fällen kann GoTo Kundendaten verwenden, um die KI-Modelle von GoTo zu trainieren und die Gesamtqualität der Ergebnisse eines Produkts zu verbessern. Dies ist jedoch nur dann möglich, wenn den Kunden eine Wahlmöglichkeit hinsichtlich dieser Nutzung eingeräumt wird. Für Kunden, die dieser Datennutzung zustimmen, ergreift GoTo Maßnahmen, um nur die erforderlichen Informationen zu verarbeiten, sodass LLM-Anfragen auf wesentliche Kontextdetails beschränkt werden, wie weiter unten im Abschnitt „Datenminimierung“ näher erläutert wird. Ein Beispiel für diesen Ansatz finden Sie in „LogMeIn Resolve – FAQ zur Verwendung von Benutzerinhalten“.

Weitere Informationen zur Nutzung von KI-gestützten Funktionen in GoTo-Produkten finden Sie in den KI-Nutzungsbedingungen von GoTo, die für die Nutzung dieser Funktionen durch den Kunden gelten.

Datenminimierung

GoTo ist bestrebt, LLM-Anfragen auf wesentliche kontextbezogene Details zu beschränken. Wenn ein Kunde beispielsweise kontextbezogene Details in die Eingabe für ein LLM einbeziehen möchte, um die Genauigkeit zu verbessern, ist GoTo bestrebt, mithilfe einer Technik namens „Retrieval Augmented Generation“ (RAG) ausschließlich Informationen zu nutzen, die im jeweiligen Kontext relevant sind. Wenn wir beispielsweise eine Diagnose für ein Gerät in LogMeIn Resolve oder Rescue erstellen, beziehen wir Gerätedaten wie CPU und Arbeitsspeicher ein, vermeiden es jedoch, jegliche personenbezogenen Daten über die Benutzer des Geräts zu erfassen.

Least Privilege und funktionsbasiertes Risiko

Bei der Entwicklung von GoTo-Diensten, einschließlich KI-fähigen Funktionen, verfolgen wir einen risikobasierten Ansatz und dem Least-Privilege-Prinzip, was bedeutet, dass ein KI-Dienst nur auf diejenigen spezifischen Daten oder Ressourcen zugreifen kann, die erforderlich sind (d. h. wir schränken den Datenzugriff technisch ein, beispielsweise durch technische Rollen mit eng gefassten Zugriffsrechten).

Bevor wir uns für die Implementierung einer KI-gestützten Funktion entscheiden, erwägen wir die Risiken der Funktion. Um den Zugriff angemessen einzuschränken, beschränken wir die Privilegien und Daten, auf die ein KI-Dienst zugreifen kann, auf das für das Funktionieren der Funktion erforderliche Maß.