Zum Inhalt springen

LLMs verstehen

Merkzettel

Was hängen bleiben soll

1Sache

Ein Sprachmodell tut genau eine Sache: Es sagt das nächste Wort voraus. Alles, was es kann, und alles, was es falsch macht, folgt daraus.

Die zwölf Bilder

  1. 1Wort für WortGrundidee

    Dein Handy schlägt dir das nächste Wort vor, und ein Sprachmodell wie ChatGPT macht genau das, nur für ganze Antworten.

  2. 2Die StückeGrundidee

    Ein Sprachmodell liest keine Wörter, sondern Stücke, sogenannte Tokens, und schon die Überschrift oben zerfällt in mehr Stücke als Wörter.

    128.256 Stücke kennt Llama 3

  3. 3Die WahlGrundidee

    Die Überschrift oben war eine Wahl: Jeder Kandidat bekam eine Zahl, einer gewann, und die Zahl verschwindet, sobald das Wort steht.

  4. 4Der ReglerGrundidee

    Dass dasselbe Modell auf dieselbe Frage zweimal anders antwortet, liegt an einem Regler, der Temperatur, und im Chatfenster siehst du ihn nicht.

  5. 5Raten statt wissenIm Alltag

    Das Modell rät und weiß nichts, deshalb klingt es auch im Irrtum sicher: Entwürfe ja, aber Zahlen, Verträge und Quellen nur geprüft.

  6. 6Das FensterIm Alltag

    Ein Modell sieht immer nur, was gerade in seinem Fenster steht, und was da nicht hineinpasst, kennt es nicht.

    1 Million Tokens passen ins Fenster

  7. 7Das LenkradIm Alltag

    Dasselbe Modell für alle, das Lenkrad ist deine Frage, und mit Rolle, Kontext und Format wird aus der Rückfrage ein Entwurf.

  8. 8Die vier AugenIm Alltag

    Entwürfe darf es allein machen, aber alles, was mit einer Zahl, einem Preis oder einem Vertrag nach draußen geht, liest vorher ein Mensch gegen.

  9. 9Der Ball im TalUnter der Haube

    Niemand schreibt die Regeln, das Modell lernt sie, indem es das nächste Wort rät, den Fehler misst und Milliarden Zahlen etwas nachstellt.

    86 Milliarden Nervenzellen im Gehirn

  10. 10Die Karte der WörterUnter der Haube

    Im Modell ist jedes Wort ein Punkt auf einer Karte, und König liegt neben Königin, weil beide in ähnlichen Sätzen vorkommen.

    16.384 Zahlen je Wortstück

  11. 11Der AktenschrankUnter der Haube

    Schließt du deine Unterlagen an, antwortet das Modell daraus wie ein Berater aus seinem Aktenschrank und nennt die Stelle zum Nachprüfen.

    126 Schichten rechnen jede Antwort

  12. 12Der Handgriff

    Ein Agent ist dasselbe Modell mit Werkzeugen: Es rät den nächsten Handgriff, Datei lesen, schreiben, Befehl ausführen, und sieht das Ergebnis.

Was du morgen tust

Der Unterschied zwischen einer brauchbaren und einer nutzlosen Antwort liegt fast nie am Modell. Er liegt an dem, was du dazuschreibst.

Ein Prompt in fünf Bausteinen

So fragen die meisten

Wohin soll ich im Urlaub reisen?

So fragst du ab morgen

Wohin soll ich im Urlaub reisen?

Du bist ein erfahrener, ehrlicher Reiseberater.

Ich reise allein im November, Budget 800 €, ich mag Natur und Ruhe.

Schlage genau 3 passende Reiseziele in Europa vor, keine Fernreisen.

Antworte als Tabelle mit Ziel, kurzer Begründung und grober Kostenschätzung.

Beispiel für den Stil: „Lissabon: mild, Meer und Stadt, ca. 600 €.“

  1. 1Rolle gebenWer soll das Modell sein?
  2. 2Kontext liefernWas muss es über dich wissen?
  3. 3Aufgabe präzisierenWas genau willst du?
  4. 4Format vorgebenWie soll die Antwort aussehen?
  5. 5Beispiel zeigenFew-Shot: zeig ein Wunschergebnis

Die drei Regeln für den Betrieb

  1. 1Ein Entwurf darf ohne Prüfung entstehen. Was mit einer Zahl, einem Preis, einem Termin oder einem Satz aus dem Vertrag zum Kunden geht, liest vorher ein Mensch gegen.

  2. 2Was du eintippst, verlässt deinen Betrieb. Personaldaten, Gesundheitsdaten, Zugangsdaten und alles unter Verschwiegenheit bleiben draußen.

  3. 3Ein Zugang liegt bei etwa 20 Dollar je Kopf und Monat. Teuer wird nicht der Zugang, sondern das Anschließen, und das ist einmalig.

Was nie in ein Chatfenster gehört

  • Personaldaten: Gehälter, Krankmeldungen, Abmahnungen, Bewerbungen.
  • Gesundheitsdaten, egal von wem.
  • Zugangsdaten, Schlüssel, Passwörter.
  • Alles, worüber ihr mit einem Kunden Verschwiegenheit vereinbart habt.

Was du eintippst, verlässt deinen Betrieb. Wo es dann liegt, wie lange und wer es sieht, steht in den Bedingungen des Anbieters und nicht in deinem Vertrag mit dem Kunden.

Alles noch einmal in Ruhe

lernen.zweitkopf.de

Zwölf Bilder zum Durchscrollen, jedes mit einer Demo zum Anfassen. Nichts, was du dort eintippst, verlässt deinen Browser.

Zum Fahrplan für den Kurs