Po wstępnym zachłyśnięciu się możliwościami ChatGPT i wielkich modeli językowych (LLM, z ang. "Large Language Models"), przyszedł chyba czas na refleksję. O zagrożeniach i problemach z nimi związanych mówi się coraz głośniej. Nie powstrzymuje to (na razie) wielkich firm technologicznych przed integrowaniem tych modeli ze swoimi produktami

Żadna technologia nie jest przecież nieunikniona, choć Sam Altman i inni, mogący dużo na tym skorzystać, bardzo chcieliby nas o tym przekonać.

Nie dajmy się bałamucić wizjami “superinteligentnych” systemów przyszłości czy “egzystencjalnych” zagrożeń. To tylko próba odwrócenia uwagi. Zamiast tego, musimy zadbać, by kontrola nad narzędziami budowanymi na modelach uczenia maszynowego nie została przejęta przez kilku ogromnych graczy, i by przede wszystkim służyła osobom z niej korzystającym.

Tekst poszedł parę tygodni temu, ale był za login-wallem. Teraz jest już publicznie dostępny.

Przyznam nieskromnie, że jestem dość dumny z tego tekstu. W niemałym stopniu z powodu pierwszego (z tego co wiem) publicznego użycia terminu “cykl bajery Gartnera”. 😉

  • @rysiek@szmer.infoOP
    1•2 years ago

    Czy w takim razie łańcuchy Markowa myślą według Twojej definicji? A ELIZA?

    Ja to bym nazwał, że zawsze istnieje pewien poziom “meta-”, tak jak np. masz relację układów FPGA i ASIC-ów. Cywilizacja ludzi oczywiście swoją ciekawością wspina się na kolejne “meta-” poziomy abstrakcji tego, z czym ma do czynienia.

    Pytanie było dużo prostsze. Bez machania rękami proszę, binarnie tak lub nie: czy na bazie Twojej definicji uznajemy, że łańcuchy Markowa i ELIZA myślą?