🔒 Pohamuj swój LLM. Sztuka zmuszania AI do konkretów

Na przykład gdy chcemy, by modele udzielały sformalizowanych odpowiedzi, potrafi ponosić je fantazja: dodają coś od siebie, zapominają o znakach specjalnych, wplatają elementy, które psują kod, przechodzą między formatami, dodają komunikaty typu: „Oto wynik: (…)”.

Oczywiście czasem – zwłaszcza gdy są to pojedyncze odpowiedzi – można ręcznie dostosować je do pożądanego formatu. Są jednak sytuacje, w których współpraca z modelem skutkuje tysiącami czy nawet milionami odpowiedzi. Do takich zadań należy np. ekstrakcja danych z dużej liczby dokumentów lub parsowanie, czyli przetwarzanie danych z jednego formatu na drugi. A w takich zastosowaniach na razie normą jest niestety to, że LLM-y czasem się mylą – i to na coraz bardziej różnorodne sposoby. Zaś poprawa każdego z tych uchybień przypomina próbę łatania pojawiających się ciągle nowych dziur w łodzi. Na otwartym morzu. W trakcie sztormu.