Sztuczna inteligencja miała ułatwiać nam życie, ale szybko okazało się, że wyręczamy się nią w zbyt wielkim stopniu. Doszło już do tego, że AI pisała rządowe ustawy. Ale eldorado już się kończy - teraz teksty tworzone przez ChatGPT będą znakowane!
Unijny akt o sztucznej inteligencji zobowiązuje dostawców systemów generatywnej AI do zapewnienia możliwości identyfikacji wygenerowanego tekstu w sposób czytelny dla maszyn. OpenAI ogłosiło właśnie, że wprowadza znakowanie tekstów tworzonych przez ChatGPT i Codex. Wdrożona przez OpenAI technologia znakowania wodnego tekstu, o nazwie textGrain, dodaje niewidoczny sygnał statystyczny do sposobu, w jaki model dobiera słowa. Udostępniony przez firmę detektor wyszukuje ten sygnał, aby ocenić, czy dany fragment tekstu zawiera znak wodny OpenAI. Początkowo dostęp do owego detektora będzie ograniczony do zweryfikowanych badaczy i organizacji eksperckich, które pomogą twórcom w ocenie i udoskonalaniu tej technologii.
OpenAI zaznacza, że testy systemu oznaczania i wykrywania sztucznie generowanych tekstów wciąż trwają, a system nie jest do końca idealny i może popełniać błędy. Skuteczność wykrywania AI jest wciąż niska w krótkich tekstach i opisach matematycznych, gdzie dobór słów jest zawężony, A edycja tekstu przez człowieka dodatkowo może obniżać skuteczność systemu znakowania. Z tego też powodu, na razie z narzędzia korzystają jedynie zatwierdzeni, chętni badacze, ale z czasem - technologia textGrain ma być dostępna szerzej. Innymi słowy - koniec tworzenia pracy dyplomowych za pomocą sztucznej inteligencji wciąż jest dość odległy - ale zbliża się nieuchronnie... Na razie tylko w UE - ale późniejsze, globalne zastosowanie wspomnianych mechanizmów jest niemal pewne.
10.10.2026
