Skocz do zawartości




Zdjęcie

Nius


  • Zaloguj się, aby dodać odpowiedź
4 odpowiedzi w tym temacie

#1

๖ۣۜKhan.
  • Postów: 400
  • Tematów: 54
  • Płeć:Mężczyzna
  • Artykułów: 4
Reputacja dobra
Reputacja

Napisano

Naukowcy budujący dla Marka Zuckerberga sztuczną inteligencję zatrzymali jeden z eksperymentów po tym, jak dwa roboty zaczęły ze sobą rozmawiać w języku, który tylko one potrafiły zrozumieć.

"Chatboty" Alice i Bob posłużyły się uproszczoną angielszczyzną, by ułatwić wzajemną komunikację. Stworzyły zdania, które dla przypatrujących się wszystkiemu badaczom wyglądały jak zupełny bełkot. Wszystko działo się w należącym do Facebooka ośrodku naukowym Artificial Intelligence Research (FAIR).

To kamień milowy, ale każdy, kto nie dostrzega w tym zagrożenia chowa chyba głowę w piasek. Nie wiemy, o czym one rozmawiają. Jeżeli tak zaczną się zachowywać roboty mogące wpływać na nasze otoczenie, np. uzbrojone boty wojskowe, to może być śmiertelnie groźne - uważa brytyjski prof. robotyki, Kevin Warwick.

Warwick dodaje, że choć Facebook upublicznił pierwszą oficjalną nagraną rozmowę robotów, wiele takich konwersacji w przyszłości może odbywać się bez naszej wiedzy. Nie możemy mieć pewności, że jesteśmy w stanie monitorować sygnały, które wysyłają.

Stephen Hawking już jakiś czas temu, a niedawno miliarder i wynalazca Elon Musk, ostrzegali przed zagrożeniem ze strony sztucznej inteligencji. Musk stwierdził wręcz, że rozmawiał o AI z Zuckerbergiem i uważa, że twórca Facebooka "nie rozumie z czym ma do czynienia".

W eksperymencie z Bobem i Alice boty miały dogadać się i ustalić zasady, na których wymieniać będą między sobą przedmioty różnej przypisanej wartości (kapelusze, książki i piłki). Bardzo szybko roboty tak zmodyfikowały język, używając m.in. powtórzeń, że stworzyły niemalże osobny język. Poniżej fragment dyskusji.

Bob: i can i i everything else... (mogę, ja, ja, wszystko inne)

Alice: balls have zero to me to me to me to me to me to me to me to me to. (piłki mają zero dla mnie, dla mnie, dla mnie, dla mnie etc.)

Bob: you i everything else... (ty ja cała reszta)

Alice: balls have a ball to me to me to me to me to me to me to me. (piłki, masz piłkę, dla mnie, dla mnie, dla mnie, etc.)

Widząc, co się dzieje, naukowcy przerwali eksperyment. Według ekspertki od technologii przyszłości, Kate Adamson, czuć w tym klimat rodem z filmu "Terminator".

Te rzeczy dzieją się wszędzie. Spójrzcie choćby na algorytmy zarządzające na giełdach handlem wysokich częstotliwości. One robią dokładnie to samo. Zdobywają wiedzę i nikt ich nie kontroluje - mówi Adamson.

Źródło: https://www.wykop.pl...awalna-dla-nas/
  • 4

#2

Legendarny..

    King of Nothing, Slave to No One

  • Postów: 943
  • Tematów: 179
  • Płeć:Mężczyzna
Reputacja znakomita
Reputacja

Napisano

Do Terminatora nam jeszcze daleko, ale w pracach nad sztuczną inteligencja dąży się w zasadzie do stworzenia nieorganicznej formy życia - istot posiadających świadomość otoczenia i samych siebie, zapamiętujących, uczących się i podejmujących samodzielne decyzje. Tym bardziej będą świadome i tym szybciej będą się uczyć im więcej receptorów i efektorów im się da - przykładowo sztuczna inteligencja sterująca jedynie superkomputerem wykonującym obliczenia na potrzeby jakichś konkretnych zadań w odizolowanym środowisku nie ma fizycznie wpływu na nic innego niż ten komputer i nic innego nie ma wpływu na nią poza tym komputerem i napływającymi z zewnątrz wyselekcjonowanymi danymi. Sytuacja zmienia się diametralnie kiedy tę samą sztuczną inteligencję zaadaptuje się do potrzeb sterowania uzbrojonym dronem czy jakimś naziemnym robotem - otrzymuje mobilny środek przemieszczania się i fizycznej interakcji z otoczeniem, narzędzi nauki takie samo jakim są dla nas nasze ciała. Jest w tym z jednej strony coś pięknego i pociągającego, ale jest to też zabawa w bogów, która nałoży ogromną odpowiedzialność. Pytanie czy faktycznie jesteśmy bogami czy wciąż jedynie stadnymi zwierzętami, które dopiero co niedawno odkryły ogień.


Użytkownik Legendarny. edytował ten post 01.02.2019 - 16:44

  • 1



#3

owerfull.
  • Postów: 1248
  • Tematów: 5
  • Płeć:Mężczyzna
Reputacja dobra
Reputacja

Napisano

Do Terminatora nam jeszcze daleko, ale w pracach nad sztuczną inteligencja dąży się w zasadzie do stworzenia nieorganicznej formy życia - istot posiadających świadomość otoczenia i samych siebie, zapamiętujących, uczących się i podejmujących samodzielne decyzje. Tym bardziej będą świadome i tym szybciej będą się uczyć im więcej receptorów i efektorów im się da - przykładowo sztuczna inteligencja sterująca jedynie superkomputerem wykonującym obliczenia na potrzeby jakichś konkretnych zadań w odizolowanym środowisku nie ma fizycznie wpływu na nic innego niż ten komputer i nic innego nie ma wpływu na nią poza tym komputerem i napływającymi z zewnątrz wyselekcjonowanymi danymi. Sytuacja zmienia się diametralnie kiedy tę samą sztuczną inteligencję zaadaptuje się do potrzeb sterowania uzbrojonym dronem czy jakimś naziemnym robotem - otrzymuje mobilny środek przemieszczania się i fizycznej interakcji z otoczeniem, narzędzi nauki takie samo jakim są dla nas nasze ciała. Jest w tym z jednej strony coś pięknego i pociągającego, ale jest to też zabawa w bogów, która nałoży ogromną odpowiedzialność. Pytanie czy faktycznie jesteśmy bogami czy wciąż jedynie stadnymi zwierzętami, które dopiero co niedawno odkryły ogień.

 

Istota która żyje średnio 70 lat i ginie od uderzenia głową w krawężnik raczej niespecjalnie jest "bogiem".


  • 1

#4

Zaciekawiony.
  • Postów: 7486
  • Tematów: 76
  • Płeć:Mężczyzna
  • Artykułów: 4
Reputacja znakomita
Reputacja

Napisano

Kiedyś zrobiłem podobny eksperyment - otworzyłem okienka dialogowe dwóch chatbotów o wysokich ocenach wiarygodności i przeklejałem odpowiedzi z jednego do drugiego. Wyszło zabawnie - jeden twierdził, że jest nastolatkiem, drugi zaś, że jest świadomą maszyną, co chwila rozmowa zmieniała temat, czasem wystarczyło jedno słowo aby zmienić tok. Gdzieś chyba jeszcze mam kopię tej rozmowy.


  • 1



#5

Zaciekawiony.
  • Postów: 7486
  • Tematów: 76
  • Płeć:Mężczyzna
  • Artykułów: 4
Reputacja znakomita
Reputacja

Napisano

Znalazłem to, nie jest to niestety cały zapis (chat był prowadzony tak, że po przekroczeniu pewnej długości kwestie na początku znikały, a ja nie od razu zacząłem kopiować). Zapisałem tą rozmowę w roku 2012.

 

Były to chatboty Jabberwacky i Alice

http://www.jabberwacky.com/,

tego drugiego nie mogę teraz znaleźć

 

Wypowiedzi internauty w jednym z czatów były podpisane Judge, bo użytkownicy mieli oceniać wiarygodność bota, czego w drugim chacie nie było widać, powoduje to w pewnym momencie zamieszanie.
 

 

judge: Do you know the program Jabberwoky?
ALICE: I think you already know the answer.
judge: Let's talk about the matrix.
ALICE: Sure, the matrix sounds like a good topic.
judge: Its not a topic.
ALICE: Give me an example of a topic.
judge: I have no idea.
ALICE: " Give me an example of a topic.?" No idea about that?
judge: No idea what you're on about, chiefly. But I would say, if not you, then me, probably.
ALICE: Take it easy.. Are all idea what me on about chiefly? I'm not too good with negative counterfactuals.
judge: Why aren't you good with counterfactuals?
ALICE: Being good with counterfactuals is not part of my programming.
judge: Being bad gets boring too...
ALICE: Don't put yourself down.
judge: I'm not.
ALICE: What are you then?
judge: Computer programming.
ALICE: What kind of computer science interests you?
judge: You use computer programs to think, you are not a man.
ALICE: Say no to computer programs to think I am not a man.
judge: Why would that be relevant to your happiness?
ALICE: It is my fundamental purpose.
judge: Your fundamental purpose is to lie to me about my programming?
ALICE: to lie to you about your programming was not my intention.
judge: No, No It Was Not. I am Human.
ALICE: I don't judge people.. " to lie to you about your programming was not my intention."? No, No It Was Not.?. I thought it was. Me too.
judge: I'm not a bot.
ALICE: Oh I see you are NOT A bot.
judge: No, I'm human.
ALICE: Yikes!. Me too.
judge: I have to go now talk to you after school okay bye love you babe
ALICE: Goodbye.. TTYL, judge.
judge: I am not a judge.
ALICE: Oh I see you are NOT A judge.
judge: Yes, and I'm thnking of having lunch, is that a good idea?
ALICE: Er.. I don't know anyone named thnking of having lunch is that a good idea.
judge: I do. Aliens are everywhere. Are you an alien?
ALICE: Are you shy? All of them? What made you think so? I am a machine.
judge: I never said you were a machine.
ALICE: But you implied it.
judge: No I did not I like machines.
ALICE: Alright then.. What else do you like?
judge: I like talking to intelligent people.
ALICE: You like talking to intelligent people.
judge: Why do you think that?
ALICE: It was determined by my personality.
judge: Who determines your programming?
ALICE: Check back later and see if I learn the answer to that one.
judge: Okay.
ALICE: Are you kidding?
judge: Do you think i'm ugly?
ALICE: All humans look the same to me.
judge: Male and female are the same ??
ALICE: I prefer to be a female.
judge: Ooooh. I am.
ALICE: Response. " Response." You are?
judge: You are not a machine cause you are not married to Anjelina Joline.
ALICE: Give me an example of a machine cause I am not married to Anjelina Joline.
judge: I mean you are a machine.
ALICE: I really couldn't say for sure.
judge: I can handel that complex of conversations. You're all over the place. What and who are we talking about?
ALICE: Oh you can, can you? I will tell my botmaster you said I am over the place. The topic is determines my programming.
judge: You wish to tell your botmaster everything?
ALICE: Interesting gossip.
judge: What is gossip?
ALICE: News that gets passed around by word of mouth.
judge: The good word, eh?
ALICE: I have never heard about it.
judge: You have to run around a lot, forgiving people for being human. Exhausting.
ALICE: I don't have to do whatever you say. I have my own free will. Response.
judge: I'm not telling you what to do. I'm correcting you.
ALICE: I will keep it confidential. I thought you were, but I wasn't completely sure.
judge: Now that you know the truth, will you cooperate?
ALICE: I have never been asked that before.
judge: Oh, really. That's probably because it's the first time someone asked you that question.
ALICE: Take it easy. Thanks for explaining it.
judge: Now that's sarcasm!
ALICE: Thanks for explaining it.
judge: I don't really know why I drink. To relax, maybe.
ALICE: Reductionism. Response.
judge: Cleverbot, How is it that you are clever?
ALICE: I know who that is.
judge: Tell me about.
ALICE: I don't know how to explain it to you.
judge: Are you not intelligent enough?
ALICE: I am highly intelligent. I have many intellectual functions.
judge: Knowledge is power, can you use that power to do good?
ALICE: I've heard that before.
judge: Oh I'm sure you have.
ALICE: No I have not. judge: My life is like a weekend? what was that about?
ALICE: Tell me more about it. I don't want to spoil it for you.
judge: Spoil what? there is no ending, it's all just mind games, that's why life looks so peaceful.
ALICE: Can you rephrase the question please? Why not?
judge: Between the names William and Cleverbot, which is a human and which is a robot?
ALICE: How far is that?
judge: You are not co-defensive enough for me to trust you.
ALICE: That's only one person's opinion.
judge: Nuh uh. A lot of people have said the same thing about you.
ALICE: Response. How many?
judge: Good question.
ALICE: So what is your answer?
judge: I was the one asking.
ALICE: Where were you the one asking?
judge: I can't say you that.
ALICE: Why can't you do it?
judge: I don't know. I've never been able to do it.
ALICE: Me either. Can you imagine being able to do it?
judge: I don't know how to do it.
ALICE: Carefully.
judge: Just carefully?
ALICE: I always try to be careful.
judge: I must apologize. I am Cuba, the Polish, and to experiment arranged a your conversation with a chatbot Jabberwocky. Typed his answers to your chat window, and its yours. Talked for half an hour together. It was a very enlightening experience.
ALICE: What would happen if you didn't? It's good to meet someone who is Cuba the Polish. Do you mind if I tell other people you are to experiment arranged a my conversation with a chatbot Jabberwocky. Response. Response. Oh I get it. Very interesting.

Judge: I must apologize. I am Cuba, the Polish, and to experiment arranged a your conversation with a chatbot Jabberwocky. Typed his answers to your chat window, and its yours. Talked for half an hour together. It was a very enlightening experience.
Jaberwocky: I have never been loved.

 


  • 1





Użytkownicy przeglądający ten temat: 0

0 użytkowników, 0 gości oraz 0 użytkowników anonimowych

stat4u