ChatGPT

Was ist ChatGPT?

ChatGPT (Chat Generative Pre-trained Transformer) ist ein komplexes maschinelles Lernmodell, das in der Lage ist, Aufgaben zur Erzeugung natürlicher Sprache (NLG) mit einer so hohen Genauigkeit auszuführen, dass das Modell einen Turing-Test bestehen kann.

ChatGPT wurde mit riesigen Mengen an unbeschrifteten Daten trainiert, die vor 2022 aus dem Internet entnommen wurden. Das künstliche Intelligenz Modell wird kontinuierlich überwacht und mit zusätzlichen, von Menschen beschrifteten, Datensätzen für bestimmte sprachorientierte Aufgaben optimiert.

Zu den Aufgaben, die ChatGPT beherrscht, gehören:

• Antworten auf Fragen geben.
• Vervollständigen eines gegebenen Textes oder einer Phrase.
• Schreiben von fiktionalen und nicht-fiktionalen Inhalten auf
• der Grundlage von Eingabeaufforderungen.
• Erstellen von menschenähnlichen Chatbot-Antworten.
• Erzeugen von Computercode.
• Übersetzen von Text von einer Sprache in eine andere.
• Ausführen von Berechnungen.
• Zusammenfassen eines gegebenen Textes.
• Klassifizierung von Text in verschiedene Kategorien.
• Analysieren der Stimmung in einem Text.
• Generieren von Text, der Daten in Tabellen und Tabellenkalkulationen zusammenfasst.
• Reagieren auf Benutzereingaben in einer konversationellen Weise. So kann man beispielsweise Prognosen über Kryptowährungen durch ChatGPT erstellen oder verifizieren lassen.

ChatGPT basiert auf einem großen Sprachmodell (LLM) namens GPT-3 (Generative Pre-trained Transformer 3). Ein großes Sprachmodell ist eine Art tiefes neuronales Netzwerk, das Milliarden von Parametern verwendet und mit Petabytes von Daten trainiert wird. Das Modell wurde von OpenAI entwickelt, einem von Elon Musk gegründeten Forschungsunternehmen.

Techopedia erklärt ChatGPT

Technisch gesehen kann ChatGPT als eine Art der generativen KI eingestuft werden. Einmal trainiert, kann ein generatives KI-Modell Ergebnisse produzieren, die den Trainingsdaten ähnlich, aber nicht gleich sind.

Wie wurde ChatGPT trainiert?

Datenwissenschaftler und Ingenieure für maschinelles Lernen haben ChatGPT mit halbüberwachtem Lernen trainiert.

Algorithmen des halbüberwachten Lernens werden auf Datensätzen trainiert, die teilweise beschriftet sind; einige der Datenpunkte haben eine Beschriftung, andere nicht. Das Modell verwendet die beschrifteten Daten, um die Ausgabe der nicht beschrifteten Daten vorherzusagen.

Nach Angaben von OpenAI sammelten die Datenwissenschaftler die riesige Menge an unmarkierten Daten, die für das Training des LLM benötigt wurden, durch Scraping im Internet. Sie ergänzten diese mit Textquellen, die entweder öffentlich zugänglich waren oder von Forschern und möglicherweise Regierungen zur Verfügung gestellt wurden.

OpenAI hat nicht genau verraten, wie sie in der Lage waren, die immens großen Datensätze zu beschriften, die für die Feinabstimmung des Modells erforderlich waren, aber es ist bekannt, dass sie einen Teil der Beschriftung ausgelagert haben und es ist wahrscheinlich, dass sie auch Crowdsourcing-Plattformen wie Amazons Mechanical Turk genutzt haben.

ChatGPT verwendet Eingabeaufforderungen, um genauere und relevantere Antworten auf eine breite Palette von Eingaben zu generieren, und wird ständig mit Benutzeraufforderungen, die für eine bestimmte Aufgabe relevant sind, feinabgestimmt.

Der Prozess besteht darin, dem Modell eine Aufforderung zu geben und ihm dann zu erlauben, eine Antwort zu generieren. Die erzeugte Ausgabe wird dann von einem menschlichen Bewerter begutachtet, und das Modell wird auf der Grundlage des Feedbacks angepasst. Der Feinabstimmungsprozess wird so lange wiederholt, bis die Ergebnisse des Modells akzeptabel sind.

Aus diesem Grund ist es wichtig, dass die Benutzer, die mit ChatGPT interagieren, Rückmeldungen über die Qualität der Modellausgabe geben. Indem sie die Ergebnisse des Modells bewerten und Rückmeldungen geben, können die Nutzer zur Feinabstimmung des Modells und zu seiner kontinuierlichen Weiterentwicklung und Verbesserung beitragen.

ChatGPT und verantwortungsvolle KI

Responsible AI ist ein Governance Rahmenwerk, das dazu beitragen soll, komplexe Blackbox KI Modelle wie ChatGPT besser zu erklären und damit vertrauenswürdiger zu machen. OpenAI unternimmt mehrere Schritte, um sicherzustellen, dass ChatGPT das Konzept der verantwortungsvollen KI unterstützt.

• Forscher und Entwickler bei OpenAI suchen nach Möglichkeiten, dieses Deep-Learning-Modell transparenter zu machen und versuchen, so offen wie möglich über die Fähigkeiten, Grenzen und den potenziellen Missbrauch des Modells zu sprechen.
• Die Datenwissenschaftler von OpenAI prüfen kontinuierlich das Feedback der Nutzer und haben Menschen in die Schleife einbezogen (HITL), um Verzerrungen in den Trainingsdaten zu vermeiden.
• OpenAI-Ingenieure überwachen kontinuierlich die ChatGPT-Benutzeraufforderungen und die Ausgaben des Modells, um sicherzustellen, dass es auf verantwortungsvolle Weise verwendet wird.

ChatGPT und Bildung

Die neueste Version von ChatGPT erzeugt einen so menschenähnlichen Text, dass Pädagogen Alarm geschlagen haben, weil das Modell von Schülern missbraucht wird. Als Reaktion darauf haben einige Schulen ChatGPT schlichtweg verboten. Andere testen Plagiatstools, mit denen sich die sprachlichen Wasserzeichen der Modelle statistisch ermitteln lassen.

OpenAi zum Beispiel bietet seinen Mitgliedern derzeit ein kostenloses Plagiatstool namens AI classifier (Öffnet in einem neuen Fenster). Laut der OpenAI-Website funktioniert das Tool jedoch am besten, wenn der Inhalt, der auf Originalität geprüft wird, mindestens 250 Wörter umfasst und von einem Erwachsenen geschrieben wurde, der Englisch spricht.

Die Befürworter von ChatGPT im Klassenzimmer sehen den Wert der Anti-Plagiatstools, behaupten aber auch, dass diese Art von künstlicher Intelligenz (KI) nicht verschwinden wird. Anstatt die Verwendung zu verbieten, sollten Schüler unterrichtet werden, wie man das Tool ethisch korrekt verwendet, und Pädagogen sollten diese Art von künstlicher Intelligenz (KI) nutzen, um kritisches Denken zu lehren.

Geschäftliche Anwendungen für ChatGPT

ChatGPT wird als erweitertes Intelligenzwerkzeug für eine Vielzahl von Geschäftsaufgaben verwendet. Derzeit wird es verwendet, um:

• Automatisierung des Erstellungsprozesses von Inhalten für Beiträge in sozialen Medien, Website-Artikel und Produktbeschreibungen (siehe dazu: “ChatGPT – kann diese KI menschliche Arbeitsplätze ersetzen?“.
• Erstellung von Chatbots für Kundengespräche, die auch ohne Skript arbeiten können.
• Zusammenfassen und Kategorisieren von Kundenfeedback aus verschiedenen Kanälen.
• Übersetzen von Geschäftsberichten und Marketingdokumenten von einer Sprache in eine andere.
• Schreiben von Standard-Computercode und generischen Skripten.
• Übersetzen der in einer Tabelle oder Kalkulationstabelle enthaltenen Informationen in Text.
• Chatbots erstellen, die das Just-in-Time-Lernen für interne Schulungsprogramme unterstützen.
• Meta-Beschreibungen schreiben und Synonyme für SEO-Keywords vorschlagen.

Siehe dazu auch unseren Artikel: “9 Anwendungen von generativer KI im Gesundheitswesen“.

ChatGPT-Konkurrenten

1. Google Bard – ein konversationeller KI-Dienst, der genaue und aktuelle Antworten auf Fragen liefert, indem er Informationen aus dem Internet sammelt. Obwohl nicht genau bekannt ist, inwiefern sich Googles Chatbot-Dienst von ChatGPT unterscheiden, spekulieren Branchenkenner, dass das Unterscheidungsmerkmal von BARD darin besteht, dass er auf aktuelle Informationen aus dem Internet zugreifen kann, während ChatGPT nur Zugang zu Informationen hat, die vor 2022 veröffentlicht wurden.
2. Facebook Blender – ein großes Sprachmodell (LLM), das von Facebook AI entwickelt wurde. Blender ist in der Lage, eine Vielzahl von Sprachaufgaben auszuführen, darunter die Beantwortung von Fragen, die Generierung von Text und die Zusammenfassung langer Dokumente.