sábado, 27 de setembro de 2014

AS LEIS DA ROBÓTICA (Visões de Robô, Editora Record)

 

area4page5

                                  ISAAC ASIMOV

Não é fácil pensar em computadores sem imaginar se algum dia eles irão
“assumir o controle”.
Será que um dia os computadores vão nos substituir, tornar-nos obsoletos,
livrar-se de nós como nos livramos das lanças e das pederneiras?
Se imaginamos cérebros computadorizados no interior de imitações
metálicas de seres humanos chamadas robôs, o medo se torna ainda mais direto. Os
robôs se parecem tanto com seres humanos que a própria aparência pode deixá-los
cheios de idéias.
Este problema estava presente no mundo da ficção científica nas décadas
de 1920 e 1930, e muitas foram as histórias sobre robôs que se voltaram contra os
criadores.
Quando eu era criança, fiquei cansado dessas histórias, porque a mim me
parecia que o robô era uma máquina e os humanos estavam sempre construindo
máquinas. Como todas as máquinas podem ser perigosas, de uma forma ou de
outra, os seres humanos passaram a construí-las com salvaguardas embutidas.
Em 1939, portanto, comecei a escrever uma série de histórias nas quais os
robôs eram apresentados de forma simpática, como máquinas projetadas para
realizar certas tarefas e dotadas de salvaguardas suficientes para torná-las
inofensivas.
Em uma história que escrevi em outubro de 1941, apresentei finalmente as
salvaguardas, na forma específica das “Três Leis da Robótica”. (Inventei a palavra
robótica, que nunca tinha sido usada antes.)
Aqui estão as Três Leis:


1. Um robô não pode fazer mal a um ser humano ou, por omissão, permitir
que um ser humano sofra algum tipo de mal.
2. Um robô deve obedecer às ordens dos seres humanos, a não ser que
entrem em conflito com a Primeira Lei.
3. Um robô deve proteger a própria existência, a não ser que essa proteção
entre em conflito com a Primeira ou a Segunda Lei.


Essas leis eram programadas no cérebro computadorizado dos robôs, e as
numerosas histórias que escrevi a respeito de robôs levavam isso em consideração.
Na verdade, as leis se tornaram tão populares entre os leitores e eram tão lógicas
que outros escritores de ficção científica começaram a usá-las (sem jamais citá-las
diretamente; só eu posso fazer isso) e, em conseqüência, as velhas histórias de
robôs que se voltavam contra seus criadores saíram de moda.
Ah, mas isso é na ficção científica. E o trabalho que está sendo realmente
realizado hoje no campo dos computadores e da inteligência artificial? Quando
começarmos a construir máquinas inteligentes, será que vamos dotá-las de algo
parecido com as Três Leis da Robótica?
É claro que vamos, se os projetistas de computadores tiverem um mínimo
de inteligência. E o que é mais: as salvaguardas não vão ser simplesmente algo
parecido com as Três Leis da Robótica; elas vão ser as Três Leis da Robótica.
Quando criei essas leis, não me dei conta de que a humanidade as vinha
usando há muitos séculos. Pense nelas como “As Três Leis das Ferramentas” e
passarão a ser enunciadas da seguinte forma:


1. Uma ferramenta deve ser segura.
(É óbvio! As facas vêm com cabos e as espadas com bainhas. Uma
ferramente capaz de ferir o usuário, mesmo que seja manipulada corretamente,
jamais será usada de forma rotineira, quaisquer que sejam suas outras qualificações.)
2. Uma ferramenta deve executar a tarefa para a qual foi projetada,
contanto que o faça de forma segura.
3. Uma ferramenta deve permanecer intacta durante o uso, a menos que sua
destruição seja necessária por questões de segurança ou que essa destruição seja parte de sua função.


Ninguém se dá ao trabalho de citar essas Três Leis das Ferramentas porque
elas parecem óbvias. Cada uma delas, se dita em voz alta, seria recebida por um
coro de “Mas é claro!”.
Compare as Três Leis das Ferramentas com as Três Leis da Robótica, lei a
lei, e verá que a correspondência é perfeita. E por que não, já que o robô, ou, se
preferir, o computador, não passa de uma ferramenta?
Essas salvaguardas são suficientes? Pense no esforço que já foi feito para
tornar os automóveis mais seguros... e no entanto os automóveis matam mais de
cinqüenta mil americanos por ano. Pense no esforço que já foi feito para tornar os
bancos seguros... e no entanto raro é o dia em que um banco não é assaltado. Pense
no esforço que já foi feito para tornar seguros os programas de computadores... e
no entanto os casos de fraude no campo da informática se multiplicam.
Os computadores, porém, se se tornarem suficientemente inteligentes para
“assumir o controle”, talvez não precisem mais das Três Leis. Talvez, em sua
benevolência, decidam tomar conta de nós e nos proteger contra qualquer tipo de
mal.
Alguns de vocês podem argumentar que não somos crianças e que ficarmos
sob a tutela das máquinas destruiria a própria essência da nossa humanidade.
Será verdade? Olhe para o mundo de hoje e para o mundo do passado e se
pergunte se não somos crianças (e crianças destrutivas!) que precisam ser vigiadas
para não fazerem bobagens.

Nenhum comentário:

AKIM