KI verstehen Lügen und KI - Warum sagt mir ChatGPT nicht die Wahrheit?
Aug 17, 2023
Die Gefahren von fehlerhaften Informationen durch KI-Chatbots werden thematisiert. Ein US-Anwalt verliert seinen Ruf, weil er blind auf ChatGPT vertraut. Es wird erklärt, dass die Sprachmodelle nicht darauf trainiert sind, die Wahrheit zu sagen. Experten arbeiten daran, KI mehr Faktentreue beizubringen und starten innovative Projekte. Zudem wird diskutiert, ob KI eigene Erfahrungen braucht, um echtes Wissen zu erlangen. Allgemein wird empfohlen, Chatbots kritisch zu betrachten, wie einen beschwipsten Kumpel.
AI Snips
Chapters
Transcript
Episode notes
ChatGPT erfindet Studie
- Martin Zetschke benutzte ChatGPT für seine Forschung zu Lehrlaufzeiten.
- Der Chatbot erfand eine Studie und einen Fragebogen, die nicht existierten.
Bard erfindet Lebenslauf
- Ralf Krauter testete Googles Chatbot Bard mit der Frage "Was weißt du über Ralf Krauter?".
- Bard lieferte einen fehlerhaften Lebenslauf mit falschen Angaben zu Geburtsort, Studium und Publikationen.
Anwalt blamiert sich mit ChatGPT
- Anwalt Stephen A. Schwartz vertraute auf ChatGPT für Gerichtsdokumente.
- ChatGPT erfand relevante Gerichtsentscheide, was Schwartz' Ruf ruinierte.