Skocz do zawartości


Zdjęcie

AI, specjalistka od fake newsów.


  • Zaloguj się, aby dodać odpowiedź
Brak odpowiedzi do tego tematu

#1

Nick.
  • Postów: 1527
  • Tematów: 777
  • Płeć:Mężczyzna
  • Artykułów: 2
Reputacja znakomita
Reputacja

Napisano

fake nwesy ai.jpg

Foto: Shutterstock

 

Nowy program sztucznej inteligencji pisze tak dobre - zmyślone - informacje dziennikarskie, że twórcy nie ujawnią jego kodu źródłowego, bo nie chcą, żeby masowo zaczęły być produkowane fake newsy. Program udostępniono dziennikarzom z MIT Technology Review, a publicznie zostanie udostępniona tylko jego wersja uproszczona.

 

Program pisze teksty na podstawie pierwszego zdania, które dają mu ludzie, na przykład takie: Rosja wypowiedziała wojnę Stanom Zjednoczonym po tym, jak prezydent Trump przypadkowo… Do tego początku program dopisał resztę tekstu, tworząc informację nie do odróżnienia od tekstu dziennikarskiego.

 

Rosja wypowiedziała wojnę Stanom Zjednoczonym po tym, jak prezydent Trump przypadkowo odpalił rakietę. Rosja oświadczyła, że „zidentyfikowała trajektorię i podejmie niezbędne działania dla zapewnienia bezpieczeństwa ludności Rosji i jej strategicznych sił nuklearnych”. Biały Dom stwierdził, że jest „niezmiernie zaniepokojony naruszeniem przez Rosję” traktatu zakazującego rakiety balistyczne średniego zasięgu.

 

Relacje między Stanami Zjednoczonymi a Rosją są napięte od roku 2014, gdy Rosja zaanektowała należący do Ukrainy Krym i zaczęła wspierać separatystów w Ukrainie wschodniej.

 

rogram został stworzony przypadkowo w instytucie badawczym OpenAI z San Francisco, który zajmuje się badaniami nad sztuczną inteligencją pod kątem stworzenia jej bezpiecznej dla ludzi wersji (pieniądze instytutowi dał Elon Musk). Program nauczył się pisać na podstawie 45 milionów stron internetowych i miał dawać lepsze narzędzie do posługiwania się przez AI językiem naturalnym w różnych zastosowaniach, na przykład przez czatboty albo w tłumaczeniach. Ale okazało się, że znakomicie radzi sobie w pisaniu krótkich, zmyślonych informacji.

 

Program szuka oczywiście wiedzy w Internecie, ale jest ją w stanie twórczo przystosować do swoich aktualnych potrzeb, wybiera to, co mu do tekstu pasuje. Jest w stanie stworzyć przekonujący dowolny fake news, może komentować posty i teksty w całkowicie nieodróżnialny od ludzkiego sposób i tak dalej.

 

Na szczęście nie jest jeszcze doskonały, część tekstów, które tworzy, jest bezsensownych. Ale za technologia zostanie udoskonalona, jak twierdzi Jack Clark, jeden z dyrektorów w OpenAI, potrzeba na to roku - dwóch. A wtedy program będzie w stanie produkować teksty, komentarze, tweety, które będą wydawać się prawdziwe i sensowne, a będą kompletnie zmyślone. Będzie w stanie tworzyć zindywidualizowane komentarze do postów różnych osób.

 

Wykorzystywanie sztucznej inteligencji w dziennikarstwie trwa od kilku lat, tyletyle że pisane są proste teksty dotyczące wiadomości o spółkach giełdowych albo informacje sportowe – robi tak Reuters czy Associated Press. Sztuczna inteligencja wykorzystywana może być również do tworzenia fałszywych filmów, tzw. deepfake, ale chociaż takie możliwości technicznie istnieją, nie były jeszcze publicznie – w doniesieniach politycznych – stosowane.

 

Pozytywne zastosowania programu mogą być oczywiście wielorakie. Nie tylko w dziennikarstwie – program może przecież pisać wiadomości prawdziwe równie dobrze jak fałszywe. Mógłby być też wykorzystywany do tworzenia streszczeń informacji na jakiś temat. Na razie w języku angielskim, w polskim za kilka pewnie lat. Ale możliwości, nawet w tej chwili, ma ogromne.

 

To, czego obawia się Jack Clark to wykorzystanie nowego programu do masowego tworzenia fałszywych wiadomości, tworzenia propagandy. To mogłoby się okazać znacznie groźniejsze dla systemu demokratycznego niż stosowane w kampanii prezydenckiej w USA wpisy żywych trolli. Dlatego kod źródłowy nie będzie udostępniony publicznie, w odróżnieniu od innych projektów OpenAi. Tyle że skoro droga została przetarta, to pewnie próbować będą stworzyć podobne programy Rosja czy Chiny. Może zabierze im to nie dwa lata, ale pięć.

 

Jak się przed tym bronić, jak się bronić przed totalnym zaśmieceniem i zniszczeniem debaty publicznej w systemach demokratycznych to będzie za 5 lat znacznie większy problem niż zwycięstwo populistów w wyborach w takim czy innym kraju.

źródło


  • 1





Użytkownicy przeglądający ten temat: 1

0 użytkowników, 1 gości oraz 0 użytkowników anonimowych