Karpathy: “Vibe coding” - “Jagged Intelligence"

Zwei Posts von Karpathy, die zwei Begriffe prägten: Vibe Coding und Jagged Intelligence (gesehen bei: https://x.com/Yuchenj_UW/status/2002123583297106424?s=20).

Vibe Coding dürften den meisten bekannt sein. Jagged Intelligence meint: KI-Modelle sind nicht gleichmässig intelligent. Sie erledigen bestimmte Aufgaben sehr gut, bei anderen scheitern sie jedoch katastrophal.

Leider ist es keineswegs immer offensichtlich, was LLMs zuverlässig können und wo gefährliche Fehlleistungen lauern. Mit zunehmender Erfahrung kann man zwar eine gewisse Intuition dafür entwickeln, in welchen Situationen ein Modell robust ist und wo Vorsicht geboten ist. Diese Intuition entsteht jedoch nicht automatisch, sondern durch Beobachtung, Tests, Fehlversuche und bewusste Reflexion über das Verhalten der Tools. Deshalb ist es wichtig, aktiv mit den Tools zu experimentieren, um ein Gespür für ihre Stärken und Schwächen zu entwickeln.

Karpathy hat das hier etwas ausgeführt: https://x.com/karpathy/status/1816531576228053133?s=20