Der AI Act kommt

Retorio hat sich unabhängig von der eingesetzten Technologie schon immer konsequent an bestehende Regelungen gehalten, unter anderem an das AGG (Allgemeines Gleichbehandlungsgesetz).

Retorios Ziel ist es, den Zugang zu Wissen und sinnvollem Coaching in psychologisch sicheren Umgebungen zu demokratisieren. Bei uns geht es darum, Menschen zu befähigen, und nicht darum, Daten zu sammeln. Um das zu erreichen, kombinieren wir psychologische Forschung mit unserer hochentwickelten künstlichen Intelligenz. So schaffen wir skalierbare Lösungen, die Wachstum und Erfolg ermöglichen.

Jetzt und in Zukunft sind wir bestrebt, alle zukünftigen regulatorischen Anforderungen zu erfüllen. Von Anfang an haben wir auf der Grundlage von drei Grundprinzipien gearbeitet. Diese Grundsätze unterstreichen unser unerschütterliches Bekenntnis zu ethischen Praktiken und der Einhaltung gesetzlicher Vorschriften.

Als Retorio-Kunde brauchst Du Dir keine Sorgen zu machen.

Die Plattform von Retorio entspricht vollständig allen bestehenden EU-Vorschriften und wir erwarten keine Probleme mit dem bevorstehenden KI-Gesetz.

Im Mittelpunkt steht bei uns immer die Idee, Menschen zu fördern. Daher verbirgt die Plattform von Retorio niemals Daten vor den Benutzer:innen – alles ist transparent.

Es gibt keine automatisierte Entscheidungsfindung, das System ist nicht selbstlernend und es aktualisiert sich nicht automatisch.

Die Retorio GmbH selbst ist offiziell ISO-zertifiziert und hat zahlreiche strenge Tests in Bezug auf Mitarbeiterschulung, Prozesse und Datenschutz absolviert. Zur Aufrechterhaltung der Zertifizierung wird das Unternehmen kontinuierlich nach den Regeln der ISO-Auditoren überprüft. 

Die Hardware-Plattform, auf der das System läuft, wird in der EU auf ebenfalls ISO-zertifizierten Servern gehostet. Zur Überprüfung der Robustheit werden vierteljährlich Penetrationstests durchgeführt.

Um Datenverlust zu verhindern, sind Notfallwiederherstellungspläne in Kraft. Der Zugriff auf die Plattform ist nur autorisierten Benutzer:innen gestattet.

Alle Daten auf der KI-Plattform von Retorio können aus dem System heraus gelöscht werden. Die Angabe personenbezogener Daten ist optional, die Plattform funktioniert komplett ohne personenbezogene Daten, beispielsweise durch eine vollständige Anonymisierung (z.B. mit Hilfe von Token-Login).

Die Plattform von Retorio ist vollständig transparent, indem sie jeden Teilnehmenden darüber informiert, dass ein KI-System verwendet wird.

Von Diskriminierung spricht man, wenn eine Person schlechter behandelt wird als eine andere. Diskriminierung kann unter anderem auf Geschlecht, Hautfarbe, ethnischer Zugehörigkeit, sexueller Orientierung, Alter und Behinderung basieren.

Ein Problem kann in den Daten liegen, mit denen Algorithmen trainiert werden und darin, welche Datenpunkte gesammelt werden. Retorio geht diesen Punkt auf zwei Arten an: 

Erstens wird die KI von Retorio anhand demografisch unterschiedlicher Datensätze trainiert. Und diese Datensätze werden ständig durch wissenschaftliche Tests überprüft.

Zweitens erfasst das KI-Coaching von Retorio keine der genannten Diskriminierungen. Sie sind als Datenpunkte für die Plattform weder relevant noch nutzbar oder auch nur vorgesehen: Die Plattform ist buchstäblich blind dafür. 

Die Tatsache, dass Retorio die Eigenschaften der Nutzer:innen nicht erfasst, ja nicht einmal weiß, wer es verwendet, bedeutet, dass die Coaching-Plattform weniger voreingenommen ist, als es ein Mensch sein kann.

Retorio hat es sich zur Aufgabe gemacht, den Zugang zu nützlichem Wissen und Coaching für Beruf und Karriere zu demokratisieren. Wir möchten, dass alle Zugang zu den besten verfügbaren beruflichen Schulungen haben, damit sie nicht nur bessere Leistungen erbringen, sondern auch mehr Freude an der Arbeit haben. Dadurch, dass das Coaching individuell und über PC, Tablet oder Smartphone gemacht werden kann, entfallen teure und umweltbelastende Reisen.

Um möglichst vielen Menschen ein optimales Coaching zu ermöglichen, ist es für uns selbstverständlich, Software barrierefrei zu erstellen und zu gestalten. 

Wir halten uns an § 4 BGG: „Barrierefrei sind bauliche und sonstige Anlagen, Verkehrsmittel, technische Gebrauchsgegenstände, Systeme der Informationsverarbeitung, akustische und visuelle Informationsquellen und Kommunikationseinrichtungen sowie andere gestaltete Lebensbereiche, wenn sie für Menschen mit Behinderungen in der allgemein üblichen Weise, ohne besondere Erschwernis und grundsätzlich ohne fremde Hilfe auffindbar, zugänglich und nutzbar sind.“

Um eine barrierefreie Nutzung sicherzustellen, führen wir regelmäßig Nutzer- und Plattformtests durch. Dazu gehören auch Software-Ergonomietests, wie z.B. Maßnahmen, um die Lesbarkeit für Menschen mit Beeinträchtigungen bei der Farbwahrnehmung zu gewährleisten. Wir halten uns an internationale Entwicklungsstandards wie die WCAG.

Die Plattform von Retorio ist nach klaren Rollen organisiert, um Überschneidungen und Interessenkonflikte zu vermeiden. Alle Mitarbeitenden müssen eine DSGVO-Schulung absolvieren, Datenschutzbeauftragte sind externe Spezialist:innen, die mit niemandem innerhalb der Organisation verbunden sind.

Nein. Die Plattform führt keine biometrische Analysen durch und wir sind auch für die Zukunft nicht an einer persönlichen Identifizierung von Nutzenden interessiert.

Nach Angaben des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit definiert die Datenschutz-Grundverordnung (DSGVO) „biometrische Daten“ als “mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu den physischen, physiologischen oder verhaltenstypischen Merkmalen einer natürlichen Person, die die eindeutige Identifizierung dieser natürlichen Person ermöglichen oder bestätigen, wie Gesichtsbilder oder daktyloskopische Daten.” (vgl. Art. 4, Nr. 14 DSGVO).

Retorio dient nicht der Identifizierung einer Einzelperson und erfasst keine physischen, physiologischen oder Verhaltensmerkmale, die zur Identifizierung einer Einzelperson herangezogen werden könnten. Die KI-Plattform von Retorio kann keine Nutzer:innen anhand von Videos oder anderen Daten wiedererkennen – und das ist auch kein Ziel für die Entwicklung.

Nein. Der KI-Coach von Retorio hilft Mitarbeitenden zu verstehen, wie sich ihr Verhalten auf Kundenbeziehungen auswirkt. Die Plattform gibt personalisiertes Feedback zum Verhalten der Mitarbeitenden, basierend darauf, wie freundlich oder seriös sie auf die simulierten Kund:innen reagieren und was sie in Bezug auf Kommunikation gut machen oder verbessern können.

Die zugrunde liegende KI erkennt jedoch keine Emotionen und versucht dies auch nicht. Die KI registriert lediglich Gesichtsausdrücke, beispielsweise ein Lächeln.

Mit Retorio können Mitarbeitende KI-Coaching in einer psychologisch sicheren Umgebung erleben. Der KI-Coach von Retorio beeinflusst weder den mentalen Zustand der Nutzer:innen noch erkennt er Emotionen, Gefühle oder psychologische Zustände.

Wir sammeln keine Datenbanken aus externen Quellen (z. B. Bilder aus dem Internet oder CCTV-Aufnahmen) und versuchen auch nicht, Datenbanken daraus aufzubauen.

Nein. Retorio konzentriert sich nur auf das Verhalten der Benutzer:innen (z.B. ob sie die simulierten Kund:innen anlächeln oder ernst ansehen).

Die KI versteht nicht, ob der Lernende tatsächlich glücklich oder traurig ist, und versucht auch nicht, dies zu verstehen, da das für den Zweck des Coachings irrelevant ist. Da das System die Emotionen des Mitarbeiters nicht versteht, kann es auch keinen Versuch geben, Emotionen zu beeinflussen oder zu kontrollieren.

Nein. Es geht uns nicht darum, Menschen zu „kontrollieren“, sondern darum, Menschen zu befähigen. Die Plattform wird nur für Schulungen genutzt, um Menschen dabei zu helfen, ihre Arbeit besser zu erledigen.

Wir können derzeit und beabsichtigen auch nicht, die individuelle Leistung von Menschen am Arbeitsplatz zu überprüfen.