[20/12/2004] Diritti e doveri di una intelligenza artificiale

[ghost80]

Non arriveremo mai ad avere una vera e propria autocoscienza artificiale secondo me....anche se poi nei fatti un computer potrà essere programmato per rispondere in maniera sempre più adeguata ad un numero sempre maggiore di situazioni,di fatto QUASI replicando una I.A.

Ma la complessità del cervello non ha eguali,e soprattutto non può esistere a mio parere una macchina al mondo in grado di fare qualcosa di assolutamente imprevedibile in maniera volontaria,anche perchè almeno il creatore del suo software sa come è programmata. Non ci dimentichiamo che la legge CAUSA-EFFETTO nei computer è quasi un assioma,e dunque più che dei robot,dovremo avere paura di chi li costruisce e del perchè li costruisce....

[j0k3r1976]

Ah...quest'editoriale mi piace perchè io in 'sta roba mi sono laureato

Innanzitutto lo stato attuale delle cose: molto spesso, in termini informatici, si fa confusione quando si parla di Intelligenza Artificiale, perchè se ne parla erroneamente.

Intelligenza Artificiale e' anche quella del distributore automatico delle sigarette, che, prendendo i soldi necessari, e dando le sigarette dopo aver verificato che la somma sia sufficiente, dando l'eventuale resto, si comporta in maniera a tutti gli effetti intelligente. Ma quella e' una simulazione di intelligenza.

Ciò di cui si dovrebbe parlare e' invece il campo delle Scienze Cognitive, ovvero dello studio dei meccanismi del cervello che determinano la capacità di ragionamento, apprendimento, e tutto quanto rende senziente un essere umano.

Qui ci sono problemi di diverso ordine, analizziamone due :

1. ancora oggi nn sappiamo niente del cervello umano ( e' forse l'organo che conosciamo di meno): possiamo realizzare un distributore automatico perchè sappiamo contare e sappiamo costruire un FSA ( Finished State Automata, automa a stati finiti ) ma - ad esempio - non sappiamo spiegare le capacità che acquisiamo in maniera assolutamente naturale durante la crescita e che usiamo di continuo [ esempio pratico: un neonato non ha senso della profondità, se fingiamo di colpirlo non si muove; se ripetiamo l'esperimento intorno ai 3/5 mesi di vita il neonato recepisce l'avvicinamento rapido e pericoloso della mano; come questo avvenga non ci e' dato saperlo ];

2. ci sono molte teorie, la cui applicabilità però è esclusiva di alcuni campi ( cioè alcune teorie mostrano validità per un certo tipo di problemi, altre per altre questioni );

Adesso cambiamo punto di vista, ipotizziamo che si riesca a realizzare un giorno un'AI nell'accezione 'romantica' del termine ( come i teoremi che si basano sull'ipotesi di Riemann ): avremmo creato qualcosa che ha coscienza di sè, che riconosce e distringue bene e male.

Saremmo allora obbligati a riconoscere a questa dei doveri ma soprattutto dei diritti: se creo un robot da guardia, quindi armato, che comprende il bene e il male e mi avvicino con un martello lasciandogli chiaramente capire che voglio danneggiarlo, secondo voi che dovrebbe fare ??? E non venite a parlarmi di parametri restrittivi che rispondano alle 3 leggi di Asimov perchè credo a sensazione che siano concetti difficili da applicare in pratica.

E poi mi romperei le palle ad andare alla scrivania per accendere il computer e lavorare e non trovarlo perchè sta facendo l'uncinetto....

[Mithrandir]

j0k3r1976 ha scritto lun, 20 dicembre 2004 alle 18:19
se ripetiamo l'esperimento intorno ai 3/5 mesi di vita il neonato recepisce l'avvicinamento rapido e pericoloso della mano; come questo avvenga non ci e' dato saperlo ];

io un'idea l'avrei, quanto sono gentili i fratellini?


Curiosità storica...

Quote:

Dartmouth 1955
Conception of AI A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence

J. McCarthy, Dartmouth College M.L. Minsky, Harvard University N. Rochester, I.B.M. Corporation C.E. Shannon, Bell Telephone Laboratories
August 31, 1955

We propose that a 2 month, 10 man study of artificial intelligence be carried out during the summer of 1956 at Dartmouth College in Hanover, New Hampshire. The study is to proceed on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it. An attempt will be made to find how to make machines use language, form abstractions and concepts, solve kinds of problems now reserved for humans, and improve themselves. We think that a significant advance can be made in one or more of these problems if a carefully selected group of scientists work on it together for a summer.

La definizione di I.A. è in divenire, significa studiare nuove tecniche che permettano alle macchine di risolvere problemi che nell'accezione comune vengono risolti solo dall'uomo.

Inoltre quello che si tenta di fare è simulare, appunto, diverso da emulare, quindi l('assenza di) conoscenza esatta del funzionamento esatto di una mente umana non esclude la possibilità di simulazione... (tantomeno la afferma, ma la prima osservazione delle due è più confortante).

[Lord_Barba]

radisc ha scritto lun, 20 dicembre 2004 alle 14:09

Isaac Asimov ha detto:

Quote:


1)un robot non può nuocere all' uomo ne permettere che, per un suo mancato intervento, un uomo riceva danno

2)un robot deve sempre obbedire agli ordini che riceve, sempre che questi non contrastino con la prima legge

3)un robot è tenuto a preservare la propria esistenza, a meno che questo non contrasti non la prima o la seconda legge

E' incredibile come le sue teorie mi sembrano di anno in anno con l'avanzare della tecnologia sempre più attuali.....

Il fatto che l'abbia scritto Asimov in un libro, non vuol dire che un giorno un'eventuale robot dotato di intelligenza artificiale avanzata non possa farlo.

Se il robot viene costruito ignorando queste tre leggi, il robot sarebbe libero di fare quello che gli pare (a meno che non venga limitato in un altro modo).

[Mithrandir]

Lord_Barba ha scritto lun, 20 dicembre 2004 alle 18:52
Se il robot viene costruito ignorando queste tre leggi, il robot sarebbe libero di fare quello che gli pare (a meno che non venga limitato in un altro modo).

Beh, nelle regole di comportamento dei robot del poli la terza legge c'è già, è una comunissima e banalissima formula logica del primo ordine che gli impedisce di decidere di compiere azioni che potrebbero portare a danneggiarlo
Le prime due sono inutili per ora

[*night_angel*]

il mio voto in italiano era 4 fisso hehehehehe

[ilgrillo]

radisc ha scritto lun, 20 dicembre 2004 alle 14:09

Isaac Asimov ha detto:

Quote:


1)un robot non può nuocere all' uomo ne permettere che, per un suo mancato intervento, un uomo riceva danno

2)un robot deve sempre obbedire agli ordini che riceve, sempre che questi non contrastino con la prima legge

3)un robot è tenuto a preservare la propria esistenza, a meno che questo non contrasti non la prima o la seconda legge

E' incredibile come le sue teorie mi sembrano di anno in anno con l'avanzare della tecnologia sempre più attuali.....

Preciso una cosa che ovviamente non tutti possono sapere:

il padre delle tre leggi della robotica (per ammissione dello stesso scrittore) è in realtà John Wood Campbell jr.. Accadde durante un icontro con Asimov il 16 dicembre del 1940 per la stesura del romanzo Liar!. Ma fu Asimov a pubblicarle.

Inoltre lo stesso Asimov nel 1974 scrisse That Thou Art Mindful of Him! (Perche tu te ne prenda cura), un racconto nel quale demoliva le "sue" stesse Leggi (e ci riusciva) dimostrando che potevano essere valide solo interepretando correttamente la definizione di "essere umano". Infatti il robot del racconto (George Decimo con la collaborazione di George Nono) conclude dopo una serie di ingegnosi ragionamenti che gli stessi robot possono essere considerati "essere umani"... Grande.

[vampires]

Non credo siano deliri i vostri..anzi..
Ma permettetemi un'appunto,ho sempre riso dell'Uomo che cerca ossessionatamente di varcare i suoi limiti(per non cedere alle sue paure) quando non e' semplicemente capace di risolvere i problemi creati da lui..inquinamento,dismogeneita' sociale,acc...

[Shalby]

Secondo me dimenticate una cosa fondamentale.
Il campo dell'Intelligenza Artificiale (e delle Scienze Cognitive in senso più stretto), è un argomento che abbraccia più branche.
Joker ha detto che alcuni robottini sono già programmati per non farsi del male.
D'accordo, vero... però lo fanno perchè hanno semplicemente ricevuto dei comandi.
Esempio: un bambino, anche neonato, se si brucia il ditino, in seguito ci starà ben lontano dal fuoco.
Semplicemente ha imparato; nessuno gli ha detto il perchè o il per come. Non ha ricevuto comandi a priori.

Da ciò deriva un'altra legge fondamentale, secondo cui un essere che abbia intelligenza evoluta, deve essere in grado di imparare dall'esperienza.

Sono già 3 leggi: istinto di autoconservazione, capacità riproduttiva, capacità di apprendimento.
Ora come ora non esiste niente che sia in grado di riprodurre tutte e 3 queste leggi.
Ci sono i robbottini che scappano a gambe levate davanti al pericolo; ci sono gli algoritmi genetici che imparano; ci sono i programmi che si riproducono. Ma nulla che riassuma tutte e 3 le capacità.
E pensare che ci sono una sacco di altre condizioni da rispettare, per definire qualcosa come vivo.

Qualcun altro ha scritto che anche l'etica può essere definita come una serie di comandi logici, seppur complessi.
Vero, però questo non gioca contro la possibilità della creazione di un IA... anzi! Tutto l'opposto.
Il nostro patrimonio genetico non è costituito forse dal DNA?
Un qualsiasi biologo può dirvi che non è altro che una serie di righe di comando.
Non bisogna, secondo me, assumere che poichè una cosa è complessa, non possa essere ricostruita.
Il cervello umano potrà avere chissà quanti neuroni e cellule varie, chissà quante sinapsi... ma rimane comunque un prodotto FINITO della natura e come tale, per definizione matematica, descrivibile e replicabile.

Le nostre capacità tecnologiche sviluppano le nostre capacità intellettuali: un uomo moderno è in grado di effettuare ragionamenti più complessi di un uomo del 1400.
Non perchè abbia più intelligenza, ma perchè ha maggiori mezzi per esprimerla e svilupparla (allenarla).

Ciò che oggi non capiamo, o che non vogliamo capire, avrà sicuramente meno lati oscuri in futuro.
E qui non centrano nè la fisica, nè l'informatica, nè quello che volete.
E' semplicemente evoluzione: Darwin diceva che un essere si evolve non solo secondo il proprio DNA, ma anche come conseguenza dell'ambiente in cui vive. E l'ambiente dell'uomo non è un luogo fisico, ma il tempo.
Gli uomini del futuro avranno maggiori mezzi e più stimoli a sviluppare la propria intelligenza, di quelli che ora abbiamo noi.
Tutto questo per dire che escludere a priori qualcosa, che la matematica invece ammette, è sbagliato.

Ciauz!

[Mithrandir]

Shalby ha scritto lun, 20 dicembre 2004 alle 23:12
Semplicemente ha imparato; nessuno gli ha detto il perchè o il per come. Non ha ricevuto comandi a priori.

Da ciò deriva un'altra legge fondamentale, secondo cui un essere che abbia intelligenza evoluta, deve essere in grado di imparare
dall'esperienza.

Reinforcement-learning permette ai sistemi di imparare dall'esperienza, e gli agenti non vengono programmati a priori per compiere particolari azioni, ma imparano a decidere...però non sono esseri senzienti.

Shalby ha scritto lun, 20 dicembre 2004 alle 23:12

Il nostro patrimonio genetico non è costituito forse dal DNA?
Un qualsiasi biologo può dirvi che non è altro che una serie di righe di comando.

non ne sono certo, ma credo che un biologo ti fucilerebbe per un'affermazione del genere

[Shalby]

Quote:

Reinforcement-learning permette ai sistemi di imparare dall'esperienza, e gli agenti non vengono programmati a priori per compiere particolari azioni, ma imparano a decidere...però non sono esseri senzienti.

Come ti ho scritto, e sono cose che non dico io ma qualche migliaio di scienziati in tutto il mondo, non basta una condizione verificata, perchè un essere sia da considerarsi vivente. Inoltre, solo in un secondo momento si verifica se tale essere è anche senziente.
Ci sono qualche centinaio di fattori che entrano in gioco.
Il fatto di saper imparare è solo uno dei tanti.
Inoltre qualche post sopra ho spiegato la differenza tra essere senziente e semplicemente vivente.

Quote:

non ne sono certo, ma credo che un biologo ti fucilerebbe per un'affermazione del genere

Appunto... non ne sei certo.
Lo sanno anche i sassi che il DNA contiene tutte le informazioni necessarie allo sviluppo di un organismo vivente.
E i sassi sanno anche che il DNA di una cellula può essere considerato come il più grande database mai creato nell'universo.

Ho una provocazione anch'io: un essere clonato secondo voi è vivente e magari anche senziente?
Secondo alcuni ragionamenti che ho letto, no, perchè si parla di sistemi estremamente complessi, non replicabili.
Ma allora che mi dite della pecora Dolly?

Ciauz!

[Mithrandir]

Quote:

Appunto... non ne sei certo.
Lo sanno anche i sassi che il DNA contiene tutte le informazioni necessarie allo sviluppo di un organismo vivente.

Non ero quello di cui non ero certo...il punto è che anche i sassi sanno che il DNA non è un database, non funziona così, e non gli si può appioppare una definizione così semplicistica...come "una serie di righe di comando", stai passando dalla biologia all'informatica con troppa disinvoltura secondo me, solo questo.

[ilgrillo]

Comunque esiste in natura almeno un tipo di verme (oggi riuscirò a dirvi anche il nome, o forse è addirittura un essere unicellulare) che nella sua vita si sposta solo per cercare cibo, se trova un ostacolo ci sbatte contro e cambia strada. FINE.

Non esitiamo però a chiamarlo essere vivente!

Credo che l'uomo sia già avanti nella creazione di vite artificiali. Forse non se n'è ancora reso conto.

[TigroPigro]

ma se siamo ancora ad eoni di distanza da una parvenza accettabile di IA nei giochi!!!
non esiste ancora nemmeno in embrione una riga di codice IA accettabile... e sempre di codice parliamo!

continuo ad affermare che "pucciare" i peperoni nel cappuccino faccia male.....

[RoMZERO]

Shalby ha scritto mar, 21 dicembre 2004 alle 01:18

Lo sanno anche i sassi che il DNA contiene tutte le informazioni necessarie allo sviluppo di un organismo vivente.
E i sassi sanno anche che il DNA di una cellula può essere considerato come il più grande database mai creato nell'universo.

Definirlo database di informazioni (in modo semplicistico) forse non è scorretto ma, da studente di queste materie, non so se sia azzeccatissimo...
è vero, non è altro che la fonte di informazioni per la sintesi di amminoacidi, che poi costituiscono le proteine (enzimi, ormoni, ecc ecc) le quali interagendo tra loro nei processi di sintesi e degradazione, fanno di un organismo quello che vediamo...
però non è una serie di comandi come hai detto poco sopra

Shalby ha scritto mar, 21 dicembre 2004 alle 01:18

Ho una provocazione anch'io: un essere clonato secondo voi è vivente e magari anche senziente?
Secondo alcuni ragionamenti che ho letto, no, perchè si parla di sistemi estremamente complessi, non replicabili.
Ma allora che mi dite della pecora Dolly?

Perchè non dovrebbe essere vivente o senziente ?
L'unico problema di cui è afflitto è che, seppur apparentemente giovane, le sue cellule posseggono la stessa età dell'essere da cui è stato clonato...
questo perchè ogni cellulla contiene le informazioni sul numero di duplicazioni fatte e il numero max che riesce a fare... parametro che si portano dietro anche le cellule figlie e quindi anche le cellule del clone...

[Follia82]

Ma perché non gli mettono la data di scadenza a sti robot come fanno coi telefoni della Nokia

e poi visto che ipoteticamente questi PC potrebbero fare i fichi e distruggere il pianeta e se si rompe la loro scheda di rete cosa usano per collegarsi a internet?
e se poi gli salta l'hard disk perdono la memoria?

[Enomis]

Ogni essere vivente che si rende conto del propio io deve avere dei diritti, che siano minori o pari a quelli degli uomini non sta a me deciderlo.

[Mithrandir]

BimboSporco ha scritto mar, 21 dicembre 2004 alle 09:03
ma se siamo ancora ad eoni di distanza da una parvenza accettabile di IA nei giochi!!!
non esiste ancora nemmeno in embrione una riga di codice IA accettabile... e sempre di codice parliamo!

Nei VG non ci puoi schiaffare così alla leggera tecniche derivate dalle ricerche nel campo dell'IA, visto che devi badare a giocabilità e anche a richiesta in termini di calcolo.
Certo, basterebbe avere un po' di cura nello scrivere le "I.A." dei VG in maniera abbastanza decente da influire in maniera positiva sul gameplay, e questo lo fanno in pochi.

Per quel che ne so io, sui bot di UT stanno provando (se non l'hanno già fatto) ad applicare sistemi di apprendimento per rinforzo su molti agenti che permettano loro di evolvere ad ogni partita imparando dagli avversari...con quali risultati non so.

[Shalby]

Quote:

Definirlo database di informazioni (in modo semplicistico) forse non è scorretto ma, da studente di queste materie, non so se sia azzeccatissimo...
è vero, non è altro che la fonte di informazioni per la sintesi di amminoacidi, che poi costituiscono le proteine (enzimi, ormoni, ecc ecc) le quali interagendo tra loro nei processi di sintesi e degradazione, fanno di un organismo quello che vediamo...
però non è una serie di comandi come hai detto poco sopra

Io sto facendo la tesi per la laurea di informatica, quindi in questo campo ne sai più tu di me.
Però ho una domanda: il DNA stabilisce il ruolo di ogni singola cellula dell'organismo e stabilisce che tipo di essere dovrà saltar fuori.
Perchè è errato considerarlo come un programma preimpostato?
Ho letto che tanti fanno questo paragone, anche biologi, affermando che il DNA può essere visto come un programma estremamente evoluto costituito da algoritmi genetici in grado di evolversi nei millenni per rendere l'organismo relativo il più efficiente possibile.

Quote:

Perchè non dovrebbe essere vivente o senziente ?
L'unico problema di cui è afflitto è che, seppur apparentemente giovane, le sue cellule posseggono la stessa età dell'essere da cui è stato clonato...
questo perchè ogni cellulla contiene le informazioni sul numero di duplicazioni fatte e il numero max che riesce a fare... parametro che si portano dietro anche le cellule figlie e quindi anche le cellule del clone...

Qui mi hai frainteso; non sono io a dire che non è nè vivente, nè senziente.
Semplicemente ho ripreso le idee di altri, per spiegare come secondo me, siano false.
Il concetto era far vedere che, come è possibile replicare una cellula artificialmente e dimostrare che sia viva, così non vedo perchè non sia possibile "replicare" il ciclo vitale tramite formule logiche e matematiche.
Tutto qui.

Ciauz!

[Mithrandir]

Shalby ha scritto mar, 21 dicembre 2004 alle 19:22
Ho letto che tanti fanno questo paragone, anche biologi, affermando che il DNA può essere visto come un programma estremamente evoluto costituito da algoritmi genetici in grado di evolversi nei millenni per rendere l'organismo relativo il più efficiente possibile.

Eh piano, adesso già hai elaborato meglio l'affermazione...in ogni caso è comunque l'esatto opposto, sono gli algoritmi genetici a fare il verso all'evoluzione in maniera estremamente semplificata...evolvendosi e aumentando la fitness...

[RoMZERO]

Shalby ha scritto mar, 21 dicembre 2004 alle 19:22

Io sto facendo la tesi per la laurea di informatica, quindi in questo campo ne sai più tu di me.
Però ho una domanda: il DNA stabilisce il ruolo di ogni singola cellula dell'organismo e stabilisce che tipo di essere dovrà saltar fuori.
Perchè è errato considerarlo come un programma preimpostato?
Ho letto che tanti fanno questo paragone, anche biologi, affermando che il DNA può essere visto come un programma estremamente evoluto costituito da algoritmi genetici in grado di evolversi nei millenni per rendere l'organismo relativo il più efficiente possibile.

Boh... io non ho letto su nessun libro un paragone del dna con un programma...
la specializzazione delle cellule è data da parti di dna che in un organo rimangono "sopiti" e in altri prendono attività...
l'evoluzione è dovuta a mutazioni casuali al momento della produzione dei gameti, mutazioni che possono risultare positive o negative e qui è la selezione naturale a fare il suo lavoro sull'organismo che ne verrà... non c'è nessun "algoritmo" è tutto casuale...

a te vedere le somiglianze con un programma...

come un database forse si, ma come programma non credo proprio (beneficio al dubbio cmq)...

[Mithrandir]

RoMZERO ha scritto mar, 21 dicembre 2004 alle 20:17

a te vedere le somiglianze con un programma...

come un database forse si, ma come programma non credo proprio (beneficio Del dubbio cmq)...

A questo punto ha più ragione lui di te...forse perchè a quanto pare sa di quello che parla...una base di dati è una raccolta di informazioni. Non definisce in alcun modo il livello poi di presentazione, come debbano essere elaborate e interpretate le informazioni. punto.

Esistono algoritmi invece, proprio gli algoritmi genetici, che si basano esattamente sullo stesso principio, una popolazione di individui ognuno con il suo "codice genetico", questi si incrociano tra loro facendo scaturire dei figli, c'è un certo tasso di mutazione e la fitness (l'ambiente) definisce cosa si tramanda e cosa no facendo evolvere il programma.
Al massimo si può dire che di fatto è il principio evolutivo ad essere "copiato", non il DNA e il suo modo di rappresentare l'informazione genetica.

[RoMZERO]

Per me, definire il dna un algoritmo è errato... database ci può stare, ma algoritmo no...

a meno che mi spiegate cosa intendete per algoritmo e allora forse ci chiariamo...

[Mithrandir]

RoMZERO ha scritto mar, 21 dicembre 2004 alle 20:27
Per me, definire il dna un algoritmo è errato... database ci può stare, ma algoritmo no...

perchè sei convinto che il DNA sia una semplice raccolta di informazioni, come database, nulla di più sbagliato, il DNA oltre ad avere in se l'informazione, esprime l'intero processo di formazione dell'essere vivente completo e specializzazione delle cellule. E' una descrizione di processo, non semplice immagazinamento di dati.
Processo è la parola chiave, se prendi un qualsiasi testo base che parli di sistemi informativi capirai la differenza tra applicazione improntata al processo, e ai dati.
Il DNA se proprio si vuole stiracchiare una definizione e adattarla in campo informatico, è un'applicazione improntata al processo, proprio come un programma applicativo che tramite una serie di istruzioni descrive, come una ricetta, come poi si formerà e presenterà l'applicativo finito.
In questo senso il suo paragone è corretto, ad esser pignoli continuo a definirla stiracchiata, ma ci può stare, la tua è completamente scorretta.

[RoMZERO]

il discorso a mio avviso è molto complesso... il dna contiene le informazioni, su questo non ci sono dubbi, però non definisce i processi, o meglio non implicitamente...

il dna non dirige nulla, anzi contiene solo la "ricetta" per produrre molecole che poi, interagendo tra loro e con lo stesso dna, formano tutto il resto...

poi se stiamo dicendo la stessa cosa, è perchè alla fine, non studiando programmazione, forse non conosco una definizione corretta di algoritmo...