"the use of artificial intelligence must be accompanied by the application of actual intelligence...

Es ist wieder einmal passiert - ein weiterer amerikanischer Anwalt wurde von einem Gericht erwischt, weil er in Schriftsätzen von einer künstlichen Intelligenz halluzinierte Fälle angeführt hat.

Bei einer Anhörung gab der Anwalt zu, generative KI-Programme zur Erstellung der Schriftsätze verwendet zu haben, ohne die erzeugten Zitate zu überprüfen. Er erklärte, er sei sich nicht bewusst gewesen, dass KI-Programme fiktive Fälle und Zitate generieren können, und habe inzwischen Fortbildungskurse zur Nutzung von KI absolviert.

Das Gericht schreibt: “It is one thing to use AI to assist with initial research, and even non-legal AI programs may provide a helpful 30,000-foot view. It is an entirely different thing, however, to rely on the output of a generative AI program without verifying the current treatment or validity—or, indeed, the very existence—of the case presented. Confirming a case is good law is a basic, routine matter and something to be expected from a practicing attorney. As noted in the case of an expert witness, an individual's ‘citation to fake, AI-generated sources . . . shatters his credibility.’ (…) It should go without saying that any use of artificial intelligence must be consistent with counsel's ethical and professional obligations. In other words, the use of artificial intelligence must be accompanied by the application of actual intelligence in its execution.”

Link zum Urteil: