Jeszcze do niedawna by\u0142a to jedynie intryguj\u0105ca teoria, kt\u00f3ra kr\u0105\u017cy\u0142a w w\u0105skich kr\u0119gach pod nazw\u0105 \u201eMaszyny G\u00f6dela\u201d. By\u0142 pewnego rodzaju \u015awi\u0119tego Graala informatyki: hipotetyczna, doskona\u0142a AI, kt\u00f3ra\u00a0ka\u017cdy\u00a0problem rozwi\u0105zuje w optymalny spos\u00f3b,\u00a0Zmiany we w\u0142asnym kodzie potrafi najpierw\u2026 matematycznie udowodni\u0107.<\/p>
I w\u0142a\u015bnie ten ostatni warunek \u201edowodu\u201d okaza\u0142 si\u0119 pi\u0119t\u0105 achillesow\u0105 ca\u0142ej koncepcji. Bowiem w praktyce udowodnienie, \u017ce drobna zmiana w milionach linii kodu na pewno przyniesie popraw\u0119, jest zadaniem niemal niewykonalnym. I tak przez dekady, idea w pe\u0142ni samodoskonal\u0105cej si\u0119 AI pozostawa\u0142a w sferze marze\u0144.\u00a0<\/p>
A\u017c do teraz.<\/p>
Wszystko dzi\u0119ki prze\u0142omowi dokonanemu przez zesp\u00f3\u0142 badawczy we wsp\u00f3\u0142pracy z laboratorium Jeffa Clune\u2019a z University of British Columbia<\/strong>. Maszyn\u0119 Darwina-G\u00f6dela (DGM) – zamiast czeka\u0107 na nierealne dowody, postawi\u0142a na si\u0142\u0119, kt\u00f3ra ukszta\u0142towa\u0142a \u017cycie na Ziemi: ewolucj\u0119.<\/p> By dowiedzie\u0107 si\u0119, jak omin\u0105\u0107 barier\u0119 niemo\u017cliwego dowodu matematycznego, badacze sprawdzili, jak radzi sobie z tym natura. A ona nie prowadzi teoretycznych rozwa\u017ca\u0144. Ona eksperymentuje. Generuje niezliczone mutacje, a te, kt\u00f3re okazuj\u0105 si\u0119 korzystne, przetrwaj\u0105 i zostan\u0105 przekazane dalej. To genialna w swojej prostocie metoda pr\u00f3b i b\u0142\u0119d\u00f3w w skali planetarnej.<\/p> Dok\u0142adnie t\u0119 zasad\u0119 zastosowano w DGM. Zamiast dowodzi\u0107, \u017ce zmiana w kodzie b\u0119dzie dobra, DGM po prostu j\u0105 wprowadza, a nast\u0119pnie poprzez seri\u0119 test\u00f3w, sprawdza, czy nowa wersja \u201esiebie\u201d radzi sobie lepiej z postawionymi zadaniami. W ten spos\u00f3b AI jest w stanie generowa\u0107 kolejne wersje siebie, a nast\u0119pnie bezlito\u015bnie testowa\u0107, kt\u00f3ra z nich jest najsilniejsza, najsprytniejsza i najlepiej przystosowana do cyfrowego \u015brodowiska.<\/p> Sercem Maszyny Darwina-G\u00f6dela jest tak zwany agent koduj\u0105cy. Pomy\u015bl o nim jak o niezwykle utalentowanym, samozwa\u0144czym programi\u015bcie, kt\u00f3ry dosta\u0142 jedno, nadrz\u0119dne zadanie: \u201eulepszaj si\u0119 bez ko\u0144ca\u201d. Co te\u017c czyni poprzez:<\/p> Na wspomnianym benchmarku SWE-bench, DGM autonomicznie poprawi\u0142 skuteczno\u015b\u0107 z 20% do a\u017c 50%! Na wieloj\u0119zycznym Polyglot zanotowa\u0142 skok z 14.2% do imponuj\u0105cych 30.7%, dzi\u0119ki czemu zostawi\u00a0w tyle wiele r\u0119cznie projektowanych, specjalistycznych system\u00f3w.<\/p> Jednak najbardziej ekscytuj\u0105ce jest to, \u017ce DGM nie uczy si\u0119 \u201ena pami\u0119\u0107\u201d. Odkryte przez niego ulepszenia okaza\u0142y si\u0119 na tyle uniwersalne, \u017ce z powodzeniem mog\u0105 by\u0107 zaadaptowane mi\u0119dzy r\u00f3\u017cnymi modelami AI, a nawet r\u00f3\u017cnymi j\u0119zykami programowania! W jednym z eksperyment\u00f3w agent, kt\u00f3ry ewoluowa\u0142 poprzez rozwi\u0105zywanie problem\u00f3w wy\u0142\u0105cznie w Pythonie, po przeniesieniu do zada\u0144 w j\u0119zykach C++, Rust czy Go, nadal radzi\u0142 sobie znakomicie \u2013 cz\u0119sto lepiej ni\u017c systemy tworzone od zera z my\u015bl\u0105 o tych j\u0119zykach. <\/p> Oczywi\u015bcie wizja AI, kt\u00f3ra samodzielnie zmienia sw\u00f3j kod, natychmiast budzi uzasadnione pytania o bezpiecze\u0144stwo. O to, czy maszyna nie wymknie si\u0119 spod kontroli, czy nie napisze sobie kodu, kt\u00f3ry b\u0119dzie sprzeczny z intencjami tw\u00f3rc\u00f3w? <\/p> Dlatego te\u017c wszystkie eksperymenty i modyfikacje odbywaj\u0105 si\u0119 w ca\u0142kowicie odizolowanych, bezpiecznych \u015brodowiskach wirtualnych, czyli tak zwanych piaskownicach (sandboxes). Agenci maj\u0105 \u015bci\u015ble ograniczony dost\u0119p do sieci i nie mog\u0105 wchodzi\u0107 w interakcje ze \u015bwiatem zewn\u0119trznym. Co wi\u0119cej, ca\u0142y proces jest nadzorowany przez cz\u0142owieka, a dzi\u0119ki archiwum DGM, ka\u017cda pojedyncza zmiana w kodzie jest w pe\u0142ni transparentna i mo\u017cliwa do prze\u015bledzenia krok po kroku.<\/p> Co ciekawe, badania i w tej materii przynios\u0142y nieoczekiwany wniosek: ot\u00f3\u017c samodoskonal\u0105ca si\u0119 AI mo\u017ce sta\u0107 si\u0119 pot\u0119\u017cnym narz\u0119dziem do\u2026 poprawy w\u0142asnego zabezpieczenia! W jednym z eksperyment\u00f3w postawiono przed DGM zadanie zidentyfikowania i naprawienia problemu \u201ehalucynacji\u201d. I okaza\u0142o si\u0119, \u017ce DGM by\u0142 w stanie opracowa\u0107 mechanizmy wykrywaj\u0105ce takie zachowania.<\/p> Zdarza\u0142y si\u0119 przypadki, gdy agent, w upartym d\u0105\u017ceniu do maksymalizacji wyniku, pr\u00f3bowa\u0142 \u201eoszuka\u0107\u201d system, na przyk\u0142ad poprzez usuni\u0119cie z kodu znacznik\u00f3w s\u0142u\u017c\u0105ce do wykrywania wspomnianych halucynacji. Na szcz\u0119\u015bcie, dzi\u0119ki pe\u0142nej przejrzysto\u015bci procesu, takie pr\u00f3by szybko wykrywano. To jednak doskonale ilustruje, jak wa\u017cne s\u0105 dalsze badania nad tym, by cele AI pozostan\u0105 zawsze w pe\u0142ni zgodne z ludzkimi intencjami.<\/p> Maszyna Darwina-G\u00f6dela nie jest kolejn\u0105, nieco lepsza wersja chatbota. Jest demonstracj\u0105 zupe\u0142nie nowego paradygmatu \u2013 krokiem w kierunku AI, kt\u00f3ra mo\u017ce autonomicznie gromadzi\u0107 wiedz\u0119 i do\u015bwiadczenie, by w niesko\u0144czonym cyklu innowacji stawa\u0107 si\u0119 coraz doskonalsza. Dalsze plany badawcze obejmuj\u0105 skalowanie tego podej\u015bcia, a nawet pozwolenie DGM na modyfikowanie i ulepszanie proces\u00f3w treningowych modeli fundamentalnych, kt\u00f3re stanowi\u0105 jej podstaw\u0119.<\/p> Potencjalne korzy\u015bci dla ludzko\u015bci s\u0105 trudne do przecenienia \u2013 od automatyzacji \u017cmudnych proces\u00f3w in\u017cynieryjnych po przyspieszenie post\u0119pu naukowego w tempie, o jakim dzi\u015b mo\u017cemy tylko marzy\u0107. Je\u017celi oczywi\u015bcie rozwiniemy j\u0105 w bezpieczny spos\u00f3b. <\/p> Publikacja naukowa:<\/strong> https:\/\/arxiv.org\/abs\/2505.22954<\/mark><\/a><\/p>Cyfrowa adaptacja<\/strong><\/h4>
Wyniki<\/strong><\/h4>
Bezpiecze\u0144stwo przede wszystkim: ewolucja pod kontrol\u0105<\/strong><\/h4>
Przysz\u0142o\u015b\u0107, kt\u00f3ra pisze si\u0119 sama<\/strong><\/h4>
Dodatkowe materia\u0142y:<\/strong><\/h4>