top of page

AI Act in Europa - Künstliche Intelligenz im Fokus der Gesetzgebung




Inwieweit betrifft dies auch den Tourismussektor?


In der Welt der Veränderung, wo Technologie und menschliche Interaktion Hand in Hand gehen sollen, ist das Verständnis neuer Gesetze wie des kürzlich in Europa verabschiedeten AI Act von entscheidender Bedeutung. Dieser Beitrag zielt darauf ab, die Kernpunkte des AI Act klar und verständlich zu erläutern, insbesondere für diejenigen, die keinen direkten Zugang oder tieferes Wissen von Künstlicher Intelligenz (KI) haben. Mit Experten freue ich mich auf einen detaillierteren Austausch

1. Risikobasierte Kategorisierung der Künstlichen Intelligenz Systeme

Der AI Act führt eine risikobasierte Kategorisierung für KI-Systeme ein. Das bedeutet, dass KI-Anwendungen basierend auf ihrem potenziellen Risiko für Nutzer und Gesellschaft eingestuft werden. Im Tourismus könnten beispielsweise KI-Systeme, die Reiserouten optimieren, als niedriges Risiko eingestuft werden, während solche, die persönliche Daten zum Beispiel von Gästen verarbeiten, als höheres Risiko gelten könnten. Hochrisiko-KI-Systeme unterliegen strengeren Regulierungen, um Sicherheit und Zuverlässigkeit zu gewährleisten.


2. Transparenzvorschriften für KI

Transparenz ist ein Schlüsselaspekt des AI Act. Für KI-Anwendungen wie Chatbots, die im Kundenservice des Tourismussektors häufig verwendet werden, ist es nun erforderlich, dass Nutzer wissen, dass sie mit einer KI und nicht mit einem Menschen interagieren. Diese Vorschrift soll Klarheit schaffen und Missverständnisse vermeiden. Das heißt, man muss klar deklarieren, dass am anderen "Ende" des Chatbots kein Mensch sitzt sondern ein Computersystem.

3. Datenschutz und Datenqualität auch bei der KI

Der AI Act legt hohe Standards für Datenschutz und Datenqualität fest. Der Act stellt sicher, dass die für das Training von KI-Systemen verwendeten Daten nicht voreingenommen oder diskriminierend sind, was für eine faire und ethische Nutzung von KI unerlässlich ist.

4. Überwachung von Menschen - Regeln für KI Systeme

Der Act setzt strenge Regeln für KI-Systeme, die zur Überwachung und Profilerstellung von Menschen eingesetzt werden. Dies ist besonders wichtig in Bereichen wie Flughafensicherheit oder personalisierte Werbung im Tourismus, um die Privatsphäre und Grundrechte der Menschen zu schützen.

5. Marktüberwachung - Sicherheit für Künstliche Intelligenz Systeme

Die EU-Mitgliedstaaten werden Mechanismen zur Überwachung von KI-Systemen einführen. Dies bedeutet, dass KI-Anwendungen regelmäßig überprüft werden, um sicherzustellen, dass sie den Vorschriften entsprechen und sicher für die Öffentlichkeit sind.

6. Verbot bestimmter Praktiken von KI

Nicht alles was funktioniert ist erlaubt! Der AI Act verbietet bestimmte KI-Anwendungen, die als gefährlich oder schädlich angesehen werden. Dies könnte beispielsweise den Einsatz von KI in manipulativen Buchungssystemen oder irreführenden Reiseempfehlungen betreffen.

7. Sanktionen bei missbräuchlicher Verwendung von AI

Bei Nichteinhaltung der Vorschriften können hohe Geldstrafen verhängt werden. Dies dient als Anreiz für Unternehmen, die KI-Technologie verantwortungsbewusst einzusetzen. Um dies durchzusetzen soll ein eigenes KI-Büro geschaffen werden.

8. Innovationserleichterung

Schließlich fördert der AI Act Innovationen, indem er einen klaren rechtlichen Rahmen für die Entwicklung und den Einsatz von KI bietet. Dies kann helfen, neue, innovative Lösungen zu entwickeln, die sowohl sicher als auch effizient sind.


Spannend wird aus meiner Sicht die konkrete Umsetzung sein, und wie und in welcher Form der AI ACT zu tragen kommt. Alleine die Punkte: Verbot der Manipulation: ab wann ist Werbung eine Form der Manipulation, oder ab wann ist ein Bild zB als von KI generiert zu kennzeichnen? Wenn ich es mit KI erstelle, oder wenn ich mit Hilfe von KI eine störende Person im Hintergrund entferne, oder meine Falten glätte ;-) Dennoch bin ich der Meinung, dass eine grundsätzliche Regelungen, am besten weltweit - zumindest in ähnlicher Form - wichtig wäre. Da die Möglichkeiten, die sich derzeit mit KI ergeben einfach uneinschätzbar sind. Ob Europa damit wieder "überreglementiert" wird und ob die großen Konzerne, wie openai, google, meta, apple, etc. es sich über Hintertüren dennoch wieder richten können, ist fast anzunehmen.


Innkrafttreten AI-Act

Voraussichtlich soll dieser AI-Act in zwei Jahren in Kraft treten. Es wird also noch so viele Entwicklungen im Bereich der KI geben, bis der AI Act in Kraft tritt, sodass wir derzeit noch gar nicht einschätzen können, welche neuen Herausforderungen auf uns zukommen werden. Dennoch ist es ein spanneder Rahmen, der zumindest einige sehr wichtige Fragen, gerade in den Persönlichkeitsrechten der Menschen definiert.

9 Ansichten0 Kommentare

Aktuelle Beiträge

Alle ansehen

Comments


bottom of page