„KI ist genial – bis sie es nicht mehr ist“: Ein Gespräch mit dem Produktleiter von Safecall über KI, Risiken und die Gründe, warum wir die Übersetzungsfunktion in unsere Plattform integriert haben

Die meisten von uns nutzen mittlerweile täglich KI-Tools, sowohl bei der Arbeit als auch zu Hause. Doch wenn es um sensible Angelegenheiten am Arbeitsplatz geht – wie beispielsweise Whistleblowing-Meldungen –, können die Risiken, das falsche Tool zu wählen, erheblich sein. Wir haben uns mit Sophie Waller, Produktmanagerin bei Safecall, zusammengesetzt, um darüber zu sprechen, wie sie zu KI steht, worauf Unternehmen achten sollten und warum wir die KI-Übersetzung zu einem festen Bestandteil der Safecall-Plattform gemacht haben.

Sophie, fangen wir mit dir an. Wie nutzt du KI in deinem Alltag?

Ehrlich gesagt, wie die meisten Menschen – wahrscheinlich sogar mehr, als mir bewusst ist! Bei der Arbeit hilft es mir beim Verfassen von Entwürfen, beim Zusammenfassen und beim Durchdenken von Problemen. Zu Hause nutze ich es für alles Mögliche, von Rezeptideen bis hin zur Reiseplanung. Die Produktivitätssteigerungen sind echt, und ich glaube nicht, dass sich daran etwas ändern wird.

Aber ich habe auch gelernt – manchmal auf die harte Tour –, dass man sie richtig einsetzen muss. Ein Kollege hat mir kürzlich eine tolle Geschichte erzählt. Er schaute sich die Weltmeisterschaft an und fragte ein KI-Tool, wie viele Spieler seines Premier-League-Vereins bei Weltmeisterschaften Tore geschossen hatten. Die Antwort kam sofort, selbstbewusst und völlig falsch. Er sagte, es habe ihn an ein Gespräch mit jemandem erinnert, der beim Spiel ein paar Gläser zu viel getrunken hatte – voller Überzeugung, aber nicht ganz zuverlässig. Ich musste zwar lachen, aber es ist ein wirklich wichtiger Punkt.

Was lässt sich daraus also für Unternehmen lernen, die über KI nachdenken?

Dass KI menschliche Logik, Emotionen und kritisches Denken niemals vollständig nachbilden kann. Sie ist ein Werkzeug, und wie bei jedem Werkzeug ist es genauso wichtig, ihre Grenzen zu kennen wie zu wissen, worin sie gut ist. Ich denke daran zurück, als diese Werkzeuge erstmals Einzug in den Arbeitsalltag hielten, und ich nutze sie heute ganz anders als damals. Es gibt eine echte Lernkurve, und Unternehmen, die in die Unterstützung ihrer Mitarbeiter bei der Bewältigung dieser Herausforderung investieren, werden deutlich besser aufgestellt sein.

Lassen Sie uns über den konkreten Kontext der Whistleblowing-Praxis sprechen. Wo birgt KI dabei Risiken?

Das ist eine wirklich wichtige Frage, über die wir uns intensiv Gedanken gemacht haben – sowohl aufgrund der Erkenntnisse aus unseren eigenen Daten als auch aufgrund der Rückmeldungen unserer Kunden.

Unser Benchmark-Bericht 2026 zeigt, dass mittlerweile 71 % der Meldungen über ein Webportal eingereicht werden – ein Anstieg gegenüber 30 % im Jahr 2019. Das ist eine erhebliche Veränderung. Zudem beobachten wir zunehmend Meldungen, die offenbar mit Hilfe externer KI-Tools verfasst wurden. Daraus ergeben sich zwei konkrete Probleme. Das erste betrifft den Datenschutz – ein Mitarbeiter, der ein Problem meldet, könnte sensible Informationen über sein Unternehmen, seine Kollegen oder sich selbst in eine KI-Plattform für Endverbraucher eingeben, die keinen nennenswerten Datenschutz bietet. Diese Informationen könnten zum Trainieren von KI-Modellen verwendet werden. Sie könnten an Orten landen, für die sie nie bestimmt waren. Das zweite Problem ist die Qualität der Meldungen. KI-generierte Inhalte können zwar ausgefeilt und in ihrem Ton überzeugend wirken, spiegeln jedoch möglicherweise nicht genau wider, was der Meldende tatsächlich sagen wollte, was die Untersuchung erschwert.

Und das betrifft nicht nur Reporter – das gleiche Risiko besteht auch für die Teams, die diese Berichte erhalten?

Genau, und ich glaube, genau dieser Aspekt wird oft übersehen. Stellen Sie sich vor, ein Bericht kommt auf Französisch herein, Ihr Sachbearbeiter spricht aber Englisch. Was macht er? Er fügt den Text vielleicht in ein KI-Tool ein, auf das er bereits Zugriff hat, oder lässt ihn durch Google Translate laufen. Die Absicht ist gut – er will seine Arbeit erledigen –, aber das Ergebnis ist dasselbe: Vertrauliche Fallinhalte haben nun Ihre sichere Plattform verlassen und sind in ein System eines Drittanbieters gelangt. Manche Organisationen ziehen für komplexe Berichte externe Übersetzer hinzu, was kostspielig ist und dasselbe Problem mit sich bringt.

Es ist eine dieser Situationen, in denen das Risiko nicht auf falsche Entscheidungen zurückzuführen ist. Es entsteht dadurch, dass Menschen versuchen, mit den ihnen zur Verfügung stehenden Mitteln das Richtige zu tun.

Deshalb haben Sie die KI-Übersetzung direkt in die Safecall-Plattform integriert.

Ja. Wir wollten diese Lücke vollständig schließen. Die KI-Übersetzungsfunktion ist direkt in das Portal integriert, sodass Reporter, Sachbearbeiter und Ermittler Nachrichten und vollständige Berichte mit einem einzigen Klick übersetzen können – ohne die Plattform jemals verlassen zu müssen. Keine externen Tools, keine externen Übersetzer, kein Risiko für die Vertraulichkeit oder den Prüfpfad.

Jede Übersetzung wird gemäß den Standards für Unternehmen zwischengespeichert, geprüft und geografisch eingeschränkt. Das Original bleibt stets erhalten. Und vor allem werden die Inhalte niemals zum Trainieren von KI-Modellen verwendet. Wir haben uns sorgfältig Gedanken über die Datenschutzarchitektur gemacht, da wir wissen, wie sensibel diese Informationen sind.

Gibt es allgemeine Empfehlungen für Organisationen, die sich mit KI-Richtlinien und Programmen zur Förderung der Meinungsäußerung befassen?

Überprüfen Sie regelmäßig Ihre bestehenden Maßnahmen, denn die Lage ändert sich rasant. Das EU-KI-Gesetz ist nun in Kraft getreten, und Unternehmen, die europaweit tätig sind – oder deren KI-Ergebnisse Nutzer in der EU erreichen –, müssen dies unbedingt beachten. Doch über die Einhaltung der Vorschriften hinaus geht es um die Unternehmenskultur. Helfen Sie Ihren Mitarbeitern zu verstehen, wie man KI sinnvoll einsetzt: wofür sie gut ist, wo ihre Grenzen liegen und wann zu viel auf dem Spiel steht, um Abkürzungen zu nehmen.

Whistleblowing ist einer jener Bereiche, in denen Abkürzungen echte Konsequenzen nach sich ziehen – für den Hinweisgeber, für die Organisation und für die Integrität des Verfahrens. Es ist wichtig, hier alles richtig zu machen.

Erfahren Sie mehr über die KI-Übersetzung von Safecall

Die KI-Übersetzungsfunktion von Safecall steht allen Kunden unabhängig von ihrer Abonnementstufe ab 500 £ pro Jahr zur Verfügung. Wenn Sie mehr erfahren möchten, wenden Sie sich bitte an Ihren Kundenbetreuer oder senden Sie eine E-Mail an [email protected].