hjeniu - 15 Października 2006, 14:53 Istnieje szansa, że SI stworzy się sama (pamiętam, że było coś o tym w cyklu o Enderze) - zdecydowana większość komputerów na świecie jest ze sobą połączona, tworząc coś w rodzaju organizmu, z wirusami, bakteriami, antywirusami itp. o olbrzymiej mocy obliczeniowej (wide SETI itp.), pojawia się coraz więcej programów które posiadają możliwość uczenia się i ewoluowania (co prawda ograniczoną i o wąskiej specjalizacji). A już teraz pojedyncze blaszaki są tak skomplikowane, że potrafią czasem zrobić coś zupełnie nieprzywidywalnego (co zazwyczaj kończy się twardym zwisem - na szczęście), ale to jak w tym powiedzeniu o milionie małp z maszynami do pisania przy bilionach linijek kodu który krąży w sieci coś może się wykluć. Pytanie jakie to będzie SI, ale to już do tych z bujniejszą od mojej wyobraźnią 
Hej, chyba napisałem merytorycznego posta, starzeję się czy wytrzeźwiałem? 
Ixolite - 15 Października 2006, 14:54 Tu pojawiają się trzy prawa robotyki stworzone przez Asimova: 1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy. 2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem. 3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem. Ale tu mowa o automacie... Robot, który przestaje analizować sytuację i wybierać optymalne rozwiązania, a zaczyna myśleć i się zastanawiać, przestanie wypełniać te trzy prawa, przestanie być robotem... elam - 15 Października 2006, 15:09 i czy taka wizja nie jest dla was przerazajaca? hjeniu - 15 Października 2006, 15:17 Zawsze można pierdzielnąć to wszystko i przeprowadzić sie w Bieszczady elam, pomyśl tylko jeden wielki ogródek 
edit: Właśnie sobie pomyślałem, że nie wiem co jest bardziej przerażające - czy to, że może powstać SI na którą ludzie nie będą mieli żadnego wpływu, czy to, że napisałem posta mniej więcej w temacie. Koniec świata panie Popiołek 
Max Bohdanowski - 15 Października 2006, 15:25 Elu, witam serdecznie! Nareszcie moge cos Ci napisac. Robilem porzadki w szafie i nagle pomyslalem: "Przeciez w tych starych numerach SF napewno ma byc jakies Twoje dzielo!" I - hurra, faktycznie! - w listopadowym SF z 2003 roku znalazlem opowiadanie pt "Nadzieja". Kiedys go odstawilem "na pozniej" bo mi sie wydalo "zbyt damskie": te lirycznie-nostalgiczne wstawki z listu niezyjacej juz kobiety... Ale teraz go przeczytalem. Powiem tak: odkrylem pewna regule. Kobiety albo nie pisza wcale, albo pisza dobrze. Dlatego wlasnie tak malo imion zenskich w literaturze. I zgodnie z regula piszesz dobrze. Przynajmniej opowiadanie "Nadzieja" bylo dla mnie wsztrzasem. To nie jest SF, to jest literatura przyszlosci. Tzn ze taka literatura bedzie zwykla literatura za jakies sto lat. Wszystko co tam napisane jest zwyklym opowiadaniem z tamtych lat. W zwyczajnym znalezc cos niezwyklego, zrobic cos donioslego z banalnosci - to jest sztuka. Ja bardzo lubie Johna Stainbacka i Twoje opowiadanie troche mi skojarzylo sie z nim, tylko ze bardziej uczuciowe, jak na kobiete pisarza przystalo. A jeszcze mi przypomniala sie wspaniala ksiazka Olgi Tokarczyk "Prawiek i inne czasy", ktora tez bardzo lubie. Dzieki! Czekam na Twoje kolejne dziela. Pako - 15 Października 2006, 16:00 Co do robotów - ja się po prostu boję sztucznej inteligencji i już. Boję się tego, żę postanowi nas wyplenić, zę nie będzie słuchać itp. Strach może i trochę głupi, ale jest. Nie hodzi mi tu o bluźnierstwo przeciwko Bogu, zę tworzymy istotę myślącą.. ja się po prostu boję po ludzku tego, co mogłoby sie wtedy stać. Nie. Sztucznej inteligencji jestem przeciwny. Przynajmniej takiej, która ma mieć coś na kształt uczuć czy coś podobnego. Uczące się algorytmy - no problem, tego typu rzeczy akceptuje. roboty - ok. Ale każdy robot w widocznym miejscu ma mieć guzik power off. Nexus - 15 Października 2006, 16:25 Ixolite, dlatego napisałem wcześniej, że prawa, które będzie można obejść/wyłączyć/zhakować nie są żadnym zabezpieczeniem. Zawsze gdzieś pojawi się grupa ludzi (vide resymp z kolejnych części Blade Runner'a, czyli sympatycy replikantów), która będzie uznawała SI za samodzielną jednostkę, która może sama o sobie decydować i objedzie/wyłączy/zhakuje zabezpieczenia. To wystarczy do reakcji łańcuchowej. Potem mogą robić to już same. IMO tego nie da się uniknąć. Trzeba tylko znaleźć sposób na symbiozę, ale to już będzie problem moich prapraprapra.... Max Bohdanowski - 15 Października 2006, 16:43 Troche zgodze sie z Pako. Zaczniemy od znanego "AI" Spielbierga. Kiedy ogladalem ten film, plakalem. Znaczy ze uwazalem wtedy ze sztuczna istota, ktora sama zaliczyla siebie do istot myslacych ma prawo na to samo, co kazda myslaca istota we Wszechcwiecie. Stwarzajac pomocne maszyny, w dazeniu do najlepszych i uniwersalnych rozwiazan, powinnismy zastanowic nad tak zwana "kwestia tozsamosci". Bo inaczej stajemy twarza w twarz z problema rasyzmu - czlowiek nie pogodzi sie ze jego sztuczne dzielo moze nagle oglosic: "Ja tez jestem czlowiekiem!" To tylko u Cliffa Simaka roboty byly lojalne - po prostu czekali az Czlowiek zabierze swoje smiecie i sie wyniesie gdzies na Jowisz lub na jedno z tysiecy mirrorow Ziemi wokol Slonca
Pako - 15 Października 2006, 16:51 No i co zrobić z robnotem, który twierdzi, zę ma uczucia itp? Tak jak w BattleStarze? Nie, to nieludzkie. Przecież ta istota też myśli i w ogóle. Nie da się jej ot tak wyłączyć. To co z nią zrobić? Uznać za człowieka? Ludzkie uczucia na to nam nie pozwolą, bo to przeciez nie jest cżłowiek, tylko twór ludzki. Więc co z tym zrobić? Osobiście bym chyba wtedy zwariował, bo nie wiedziałbym kompletnie co zrobić, jaką decyzję podjąć. Robot powinien pozostać człowiekiem. Wykonywać rozkazy, spełniać zadania, ale w żadnym wypadku nie powinien mieć czegoś chociażby podobnego do uczuć. Może podejnmować własne decyzje z dziedziny do niego przeznaczonej - niech ten robot idzie przez dżunglę, niech wybierze najlepszy sposób leczenia i transportu rannych. Ale ma być pod absolutną kontrolą człowieka. Włąściciel powie: sotp, to robot zatrzyma się i nic go nie ruszy. Musi byc bezwzględnie posłuszny i nic więcej. A objway nieposłuszeństwa tępić. Koniec. W innym wypadku jadę w bieszczady, jak mi ktoś AI postawi
gorat - 15 Października 2006, 17:19 Pako
Mam wątpliwości, czy jest to spójne z dalszym tekstem. Zaś do dyskusji dodam stanowisko bedące nowym punktem do praw robotyki: 4. robot może być uczuciowy/emocjonalny, o ile nie stoi to w sprzeczności z Pierwszym, Drugim lub Trzecim Prawem. A i tak nadal obawiam się, że wykazałem się nadmiernym liberalizmem. Max Bohdanowski - 15 Października 2006, 17:22 Pamietasz, Pako, jeszcze Lem w Polowaniu na Setaura zauwazyl ten problem. Kiedy robot, ktorego Pirx mial likwidowac, uznal czlowieka za swojego wspolnika. I pozniej Pirx mial paskudne uczucie, ze zdradzil Setaura, strzelajac w plecy, kiedy ten normalnie sie odwrocil do niego plecami, jak to sie robi w przypadku gdy masz do kogos zaufanie... Max Bohdanowski - 15 Października 2006, 17:36 Specjalnie porownalem wczesniej kwestie porozumiewawcza Czlowieka i Robota z kwestia rasyzmu. Kazdy z nas, ludzi, napewno by mial watpliwosci co do tego czy moze rozumna maszyna, robot, android ze sztucznym intelektem zostac naszym zaufanym przyjacielem. Ale pareset lat wstecz tak samo zadny bialy nie wyobrazal sobie jak mozna sie zaprzyjaznic z Murzynem. Sadzono ich na miejsca dla kolorowych, nie mieli zadnych praw i tak dalej. Podejrzewam, ze to samo bedzie z robotami, kiedy osiagna wreszcie poziom prawdziwego intelektu. W zasadzie sam sztuczny intelekt to cos makabrycznego i nieludzkiego, bo choc i twierdza matematycy, ze rozum ludzki mozna, jak i wszystko we Wszechswiecie, opisac rownaniami, a jednak zadnego rownania na razie jeszcze nie wymyslono na taka okazje. AI ma powstac w sposob nieprogramowany, znienacka, niewytlumaczony i dlatego odrazajacy - stad wlasnie prorokuje eksplozje ksenofobii, rasyzmu i tak dalej... Wydaje sie mi ze najblizej tego problemu jest mocno wysmiewany, ale, moim zdaniem, jednak, bardzo dobry Matrix. Pako - 15 Października 2006, 17:38 gorat - cytowane zdanie jest z błędem. Znaczy ja źle napisałem. Miało być: Robot powinien pozostać POD człowiekiem. Twoje czwarte prawo jest dla mnie zbytnim liberalizmem. To jest maszyna i maszyną ma pozostać. A maszyna z uczuciami się w moich ramach świata nie mieści, chyba, że w filmie sf
Czemu? Dla tego, co powiedział Max przed chwilą. Czy jak zlikwiduję robota z uczuciami, niekoniecznie strzelę w plecy, ale wyłączę, rozbiorę na części itp., to co? Zabiłem go? Bo przecież miał uczucia? Jak mi sie w kompie zasilacz spali i stwierdzę, że nowego kompa kupię, bo stary to złom, to zdradzę go, bo on mnie polubił, pokochał, a ja go na śmietnik? Nie.. bez uczuć. Maszyna ma pozostać maszyną. Inaczej się po prostu nie odnajdę. Ixolite - 15 Października 2006, 17:57 Max, nie zgodzę się z tobą w kwestii "robociego" rasizmu. Nie można go porównać do dyskryminacji np. ze względu na wyznanie czy inny kolor skóry. To znaczy można, ale nie do końca. Dyskryminacja bierze się ze strachu, strachu przed nieznanym. Ale to nie wystarczy, dyskryminujący musi jeszcze mieć jakąś przewagę nad dyskryminowanym - siły, wykształcenia, liczby... Musi być czy to realna, czy to wyimaginowana, ale jakaś przewaga, moc decyzyjna, pozwalająca wyznaczyć kto jest NAD a kto jest POD, kto lepszy, a kto gorszy, jakiekolwiek by nie było uzasadnienie. W przypadku robotów jest inaczej. Co prawda też jest strach, trochę przed nieznanym. Ale strach wywołany świadomością, że robot może być lepszy od człowieka, pod każdym względem. To może być strach wywołujący nienawiść i agresję, ale nie dyskryminację, nie "roboci" rasizm. To będzie sytuacja prymitywnego plemienia, zaatakowanego przez wysoko rozwiniętych technologicznie najeźdźców. To będzie strach przed ich możliwościami, przed motywami ich działania, przed niemożnością postawienia się im, kontrolowania ich... Max Bohdanowski - 15 Października 2006, 17:58 Ta kwestia nas jak na razie przerasta. Wlasnie ten robak - to paskudne liberalne uczucie ze "rozmontowalismy przed chwila to, co nie zdolalismy zaakceptowac jako istote rozumna" - jest istota naszej niedojrzalosci. Zabity przez czlowieka inny czlowiek to tez tylko kupa smieci - jelit, trzewi, kosci i innego biologicznego gowna. Lwy, niedziwiedzie, hieny normalnnie jedza czlowieka, bo nie jest dla nich wcale Bogiem, tylko zwierzem. Czlowiek w swoich ambicjach tak pragnie byc podobny do Boga ze chce stworzyc sztuczny rozum, swoja podobizne. Ale jednoczesnie boi sie swego wlasnego stworzenia. Dlatego Frankensztejny zawsze beda zabijane przez swych golemow, dlatego sztuczne intelekty beda nami gardzily jak w Matrix, dlatego zawsze bedzie wojna miedzy ludzmi i robotami... Moze wlasnie dlatego Bog nie mieszka na Ziemi, inaczej zabiliby go wlasne stworzenia. Albo on by musial w swej obronie wszystkich pozabijac. Max Bohdanowski - 15 Października 2006, 18:20 Ale czemuz nie, Ixolite? Sprobujemy porownac dwie rzeczy. Murzyn jest podobizna czlowieka, ktorego nabylem dla roznych ciezkich prac jakie sam nie chce wykonywac. Robot (chocby i android) jest podobizna czlowieka etc etc... Murzyn jest silniejszy ode mnie, jest sprytniejszy, nawet (przyznam) jest rozumniejszy ode mnie. Robot jest.... etc - to samo. Jednak... Zabicie Murzyna nie jest przestepstwem, poniewaz jest funkcjonalna podobizna czlowieka, ktora nabylem za pieniadze i moge zatem likwidowac. Zabicie robota nie jest zabiciem lecz tylko wylaczeniem tej mechanicznej podobizny czlowieka z trybu funkcjonowania, na ktore mam pelne prawo jako nabywca i wlasciciel. Jesli Murzyn oswiadcza ze ma takie same prawa jak bialy czlowiek, uwazam to za lamanie naturalnego stanu rzeczy, niezdrowe wypaczenie, ktore nalezy tepic w zarodku, chocby przez likwidacje zrodla choroby. Jesli robot oswioadcza ze jest czlowiekiem i ma takie same prawa co czlowiek, nalezy to uwazac za niebezpieczna wade techniczna a zatem tzeba natychmiast odwolac cala serie tych urzadzen dla demontazu. Moim zdanien to sa rzeczy identyczne. Nie zapominajcie: mowimy przeciez nie o maszynach, tylko o konstrukcjach obdarzonych intelektem (co z tego ze sztucznym). Max Bohdanowski - 15 Października 2006, 18:36 Istnieje szansa, że SI stworzy się sama (pamiętam, że było coś o tym w cyklu o Enderze) Ja tez stoje za taka teoria. Pamietam te Jane, ktora byla swietnym Radca dla Endera podczas blokady Planety Prosiakow. Podobno zaistniala w hyperswietlnych ansiblowych laczach pomiedzy poteznych serwerow... Intelekt powstal (jak mi sie wydaje) wlasnie jak cos zupelnie nielogicznego. Te wszystkie kontrolne sumy, algorytmy - sa nazbyt sztuczne aby zaistnialo wsrod nich cos zywego. Sama Jane byla z cala swoja baza danych zbyt nekonsekwentna i uczuciowa, z czego i wynika ze mogla pomoc w tym konflikcie, odcinajac strategicznie wazne punkty ludzkiego Wszechswiata, uniemozliwiajac komunikacje a zatem i przyjecie decyzji. Czy zwykly komputer mogl tak zadzialac? Nigdy. Nexus - 15 Października 2006, 18:42 Max, nie zgodzę się z Tobą w kwestii odkrycia usterki i odwołania całej serii do demontażu. To nie jest coś co można zrobić w praktyce. My już teraz nie jesteśmy w stanie kontrolować odpowiedniej jakości na produkcji - wyłapywanie błędów jest przerzucone na pierwszy etap użytkowania u finalnego klienta. Ile usterek pojawia się w samochodach, w komputerach, w elektronice użytkowej? Usterki, które powinny być wychwycone i skorygowane na etapie projektowania. Postęp technologiczny wymusza skracanie czasu od pomysłu do produktu, bo inaczej zje Cię konkurencja. A robot, czy android będzie o wiele bardziej skomplikowanym mechanizmem. Poza tym najprawdopodobniej produkcja będzie całkowicie ZAUTOMATYZOWANA, co wprowadza dodatkowy element niepewności. Jeśli dojdzie do "buntu" uświadomionych SI, to nie będziemy w stanie zrobić nic... kompletnie nic. Tylko Connor nas uratuje
Max Bohdanowski - 15 Października 2006, 19:12
No, ja mialem na mysli nie skarge pojedynczego uzytkownika, a raczej wrzask niezadowolonego tlumu. To tak jakby, powiedzmy, ze odkryto niby mikrofalowki zabijaja we snie Wtedy by ludzie je wyrzucali z okien, palily na stosach, manifestacje i takie inne.
Oj, tak! Saro, swieta Saro, ratuj nas juz dzis!
Zaraz pomyslalem ze Trurl i Klapaucjusz z przerazeniem czytaja nasze bladawcow ohydnych rozmowy
hjeniu - 15 Października 2006, 20:18 Max problem polega na tym, że jeszcze nie ale za 10 - 20 lat. Piszę z komputera który ma moc obliczeniową większą niż Cray 2 - superkomputer z lat 80-tych. Tworzy się coraz więcej algorytmów które się uczą, na razie w sieci są to głównie antywirusy i programy do rozpoznawania ataków. Co się stanie gdy któryś z tych programów uzna, że największym zagrożeniem dla sieci jest człowiek? No bo przecież nikt nie zaszywa praw Asimowa w antywirusie. A rynek domaga się coraz więcej i coraz lepiej uczących się programów, nie tylko do poważnych zastosowań, ale do poprawiania zdjęć z imienin cioci, szukania interesujących nas książek, muzyki czy filmów w sieci itp. Wirusy i robale mają też coraz więcej możliwości. Nikt nie wie co możemy upichcić w tym garnku. Może się okazać, że pierwszy kontakt z obcym nawiążemy w naszym PC-cie i to nie dzięki SETI .
Max Bohdanowski - 15 Października 2006, 20:58
O! Wlasnie, w tym se,k! Nie istnieje problemu powstania SI bo jest z nim tak jak w tym kawale o damie, ktora spytano "Jaka jest szansa ze spotka pani na ulicy dinozaura?" - 50/50. - Jak to? - Albo spotkam, albo nie. W zasadzie wszystko co czlowiek w stanie wyobrazic moze zaistniec. Problem w tym, czy potrafimy zamieszkac obok. Porownalem Murzyna z androidem i bylem tak z siebie zadowolony, ale troche sobie jeszcze obmyslalem temat i doszedlem wniosku ze moje odpowiedz byla niepelna. Sprobuje ja uzupelnic. Otoz mowilem o ksenofobii i rasyzmie. Ale w przypadku niewolnictwa Murzynow nie bylo ksenofobii, tylko poczucie wyzszosci bialej rasy nad czarna. W przypadku z androidami najpierw bedzie ksenofobia, bedzie strach, maskowany pozniej pseudorasyzmem. Pseudo, bo bedzie smieszny. Najpierw pszestraszymy sie: "O Boze, ten odkurzacz gada!" Ale zaraz po tym przyjdzie swiadomosc, ze te maszyny naprawde sa istotami rozumnymi i ze musimy troche posunac sie, aby dac im miejsce pod sloncem i takie same prawa jakie mamy. I wtedy przyjdzie nienawisc: "czemu ja musze oplacac tej suszarce do wlosow dni, kiedy cierpi na rdzawice cewek?" Nie potrafimy pogodzic sie z tym ze ta kupa zlomu rodem z chinskiej chalupy moze wezwac nas do sadu
I jak slusznie zauwazasz - szukajac pozaziemskiej inteligencji marzymy jak dzieci: gdy spotkam tego trzymetrowego robala, ktory sra przez usta, to sie z nim zaprzyjaznie. A kiedy wprawdzie zobaczymy takiego robala, to najprawdopodobniej sami sie posramy ze strachu. Ba, nawet nie robala, a tego rozumnego wirusa, ktory pewnego dnia zamiast przywitania napisze na ekranie: "Sorry, my dear user, skasowalem wszystkie twoje pliki, poniewaz uznalem je za strasznie glupie i nie warte przechowywania na twardym dysku, ktory jest wcale nie twoj, tylko moj"
elam - 15 Października 2006, 21:21 Maks, jak ty to dobrze ujales, z ta rdzawica cewek, i w ogole. Mi tez mniej wiecej o to chodzi.
Za to nie boje sie jakos specjalnie tego, ze moj komputer nagle zyska swiadomosc. no bo co mi zrobi?? komputer sam sie na mnie nie rzuci, ani w zaden sposob nie podlaczy do sieci lutownicy czy spawarki i nie skonstruuje robota, ktory moglby za mna ganiac po ogrodzie z siekiera. Zreszta, moj komputer mnie lubi, bo jestem dla niego bardzo dobra.
Od uzyskania swiadomosci przez maszyny (komputery) do samodzielnych maszyn (androidow) jest jeszcze kawal drogi. Taki inteligentny komputer, nawet, gdyby chcial sobie skonstruowac "cialo", zeby moc sie przemieszczac i robic naprawde, co chce, mialby sporo klopotow i bez ludzi chyba by sobie nie poradzil. Co do zagrozenia ze strony internetu czy innej globalnej sieci, to tez w to za bardzo nie wierze, jeszcze nie teraz, nie... hjeniu - 15 Października 2006, 21:50 elam, w Dani już sprzedają lodówki podłączane do Internetu I co zrobisz jak Cię taka lodówka odetnie od źródełka, inny wirus wykasuje Twoje konto, Twoją tożsamość z bazy PESEL, Twój ogródek z ksiąg wieczystych i geodezji, wyłączy Ci prąd, wodę, gaz, kanalizację, odetnie TV itd. A i jeszcz wpisze twój rysopis do rejestu poszukiwanych
gorat - 15 Października 2006, 22:02 ..albo wpisze do rejestru nieżyjących 
elam - 15 Października 2006, 23:13 chodzi mi o to, ze ja moge zawsze taka lodowke odlaczyc od zasilania, wtedy mi co zrobi? a jak nie, to Bieszczady...
gorat - 16 Października 2006, 12:21 Jakieś asiontko się zarejestrowało... Mamy czekać tutaj czy w Biją?
Godzilla - 16 Października 2006, 12:23 W Biją! Powitanie trwa! elam - 16 Października 2006, 12:38 oj, asiontko jest bardziej telewizyjne, niz ksiazkowe, wiec tutaj raczej wiele zagladac nie bedzie.... w dodatku, na razie siec nam nie dziala, wiec musi pisac z mojego komputera, a to jest mozliwe tylko wtedy, kiedy jej go udostepnie ... co biorac pod uwage moj brak zatrudnienia i jej studia dzienne, nie zdarza sie zbyt czesto
pomijajac juz fakt, ze mam cale oprogramowanie po francusku.. i nawet klawiature inna
Nexus - 16 Października 2006, 19:22 Ja jeszcze na chwilę chciałem wrócić do tematu uczłowieczenia SI. Może jakiś inny topik, by się zdał? Dodam, że wszelkiego rodzaju zabezpieczenia chroniące przed niewłaściwym działaniem robotów, androidów, czy jakiejkolwiek SI będzie psu na budę, kiedy pomyślimy, kto wyłoży największą kasę na rozwój technologii - wojsko. A pierwszą rzeczą jaką zrobią, to zbudują maszynę do zabijania ludzi Potem wymyślą kilera zabójców ludzi, który będzie inteligentniejszy od poprzedniego, a potem mordercę kilerów itp. itd. I gdzie będą te zabezpieczenia? Jasne, że postarają się o własne bezpieczeństwo, ale ewentualny przeciwnik nie będzie zasypiał gruszek w popiele. W ten sposób najpierw będziemy mieć na karku miliony procesorowych podżynaczy gardeł, a dopiero potem śmiertelny toster
Przepraszam elam za brak powiązań z jej działem.
elam - 16 Października 2006, 19:57 alez jaki brak powiazan z tym dzialem, sama zaczelam w ramach bloga/blogu / czy-jak-to-sie-odmienia
i zgadzam sie z twoja wizja. IE mowie: NIE
|
||||||||||||||
