Seit kurzem sind die Textroboter ChatGPT und Microsoft-Bing für jedermann nutzbar – die wohl grösste KI-Revolution seit Google & Co. Text- und auch Bild-KI machen rasch gewaltige Fortschritte. Kürzlich wurde bekannt, dass die Eglisauer Firma Vivi Kola den neuen präbiotischen Superdrink Vivi Nova mithilfe von ChatGPT entwickelte, von der Idee und dem Rezept bis zum Design in nur zwei Tagen. Nur die Deklarationen mussten menschlich erarbeitet werden, und bei der Nährwertberechnung habe ChatGPT versagt.

Solange eine Fachperson die KI-Elaborate prüft, korrigiert und ergänzt, ist der Nutzen gross und das Risiko kontrollierbar. Aber blind vertrauen darf man dem Roboter nicht: Er ist anfällig für Fakes, Fantasieantworten, Irrtümer und Manipulationen. Bing ist gemäss Experten weniger anfällig als ChatGPT. Und nennt anders als ChatGPT Quellen, wenn auch unzuverlässig. Bing erlaubt ausserdem, beim Antwortstil zwischen kreativ, ausgewogen und genau zu wählen.

Weitere Schwachstellen und Risiken sind der unsichere Aktualitätsgrad und das Unausgewogenheitsrisiko. Gemäss KI-Experten recherchieren Chatbots im gigantischen Gratis-Internet, auch in unseriösen Websites, vor allem in populärwissenschaftlichen und nicht bei paywall-geschützten Qualitätsquellen. Wenn zu einer sehr spezifischen Frage die Datenlage dürftig ist, erfinden sie Antworten. Der Algorithmus fokussiert nicht auf Wahrheit und Genauigkeit, sondern auf Plausibiliät, das heisst, der Text muss gut tönen. Wenn bei umstrittenen Themen tendenziöse Antworten entstehen, liegt es wohl an einseitiger Datengrundlage. Oder gemäss dem englischen Sprichwort: «garbage in – garbage out». Ausserdem lernen Textroboter auch aus Eingaben der Nutzer. Das macht sie anfällig für Manipulationen, wenn bewusst Falsch-Behauptungen eingeben werden.

Wer Chatbots nutzen will, muss selber Faktenchecks machen via klassische Suchmaschinen, Wikipedia oder durch gezielte Rückfragen an den Textroboter. Zu empfehlen ist, eine Frage bei beiden Chatbots einzugeben und in mehreren Sprachen, was die Chance für brauchbare Resultate erhöht. Umgekehrt sollte man sich hüten, bei Fragen oder Schreibaufträgen sensible Informationen wie Geschäftsgeheimnisse einzugeben – sie könnten in Antworten bei andern Nutzern auftauchen.