Der Chatbot ChatGPT (Generative Pre-trained Transformer) setzt Künstliche Intelligenz ein, um mit Nutzer*innen mittels Textnachrichten und Bildern zu kommunizieren. Dieser vom US-amerikanischen Unternehmen OpenAI im Jahr 2022 veröffentlichte Bot nutzt eine moderne maschinelle Lerntechnologie, um Antworten zu generieren, die natürlich klingen und für das Gespräch relevant sein sollen. Doch mit diesem viel genutzten KI-basierten Chatprogramm sind auch viele rechtliche und ethische Probleme verbunden. Beispielsweise kann ChatGPT Falschinformationen oder auch menschenverachtendes Material wiedergeben, mit denen es zuvor durch andere Nutzer*innen gefüttert wurde. ChatGPT kann also für Propaganda oder Phishing verwendet werden. Hinzu kommt, dass kreative Werke als Datenfütterung verwendet wurden, was urheberrechtlich problematisch ist.
Daher hat die Redaktion der vorgänge mit ChatGPT selbst ein schriftliches Chat-Interview geführt und das Programm zu den Problemen befragt. Deutlich wird dabei, dass ChatGPT häufig sehr allgemein und ausweichend antwortet – was bestätigt, dass Chatbots und die ihnen zugrundeliegenden Large Language Models bislang nur in der Lage sind, allgemeine Informationen aufzubereiten und wiederzugeben, anstatt eigenen substanzielle Aussagen zu generieren. Den Turing-Test hätte ChatGPT jedenfalls nicht bestanden.
Leider steht dieser Artikel nur in der Kaufversion der Zeitschrift vorgänge zur Verfügung. Sie können das Heft hier im Online-Shop der Humanistischen Union erwerben: die Druckausgabe für 14.- € zzgl. Versand, die PDF-/Online-Version für 5.- €.
