Vom a Auto-determinação, as máquinas letais estão se tornando realidade. Os cientistas estão se unindo para detê-los
Trata-se de robôs assassinos que podem matar por conta própria. Primeiro de tudo, eles já estão aqui.
Eles estão na fronteira entre a Coreia do Sul ea Coreia do Norte sentinelas-robô coberto com metralhadoras se prestar atenção para intrusos na zona desmilitarizada.
"Parece um pouco como um R2D2 de altura e tem uma metralhadora em cima", diz o Dr. Peter Asaro, a robótica e professor da New School. "É usado em um modo operado remotamente, mas tem a capacidade de plena autonomia, para que ele possa usar suas câmeras para detectar alvos humanos e fogo para eles."
Essa capacidade está desactivada, mas existe. E o desenvolvimento de "robôs assassinos" não pára por aí.
Máquinas da morte Autónomas estão em desenvolvimento nos laboratórios e
campos de testes em todo o mundo, inclusive nos Estados Unidos.
"Estamos preocupados com as tendências de autonomia na guerra há vários anos", diz Mary Wareham da divisão de armas da Human Rights Watch.
Tão preocupado que um grupo de ativistas de direitos humanos (como Wareham), bem como cientistas e roboticistas (como Asaro), para não mencionar alguns Prémios Nobel, decidiu que era hora de formar o sem rodeios chamado Campanha para parar Killer Robots .
APRESENTAÇÃO: A History of Robots consciente de si Filmes
Parto do Killers
O X47B é um veículo aéreo não tripulado de combate elegante, desenvolvido pela Northrop Grumman para a Marinha os EUA, no montante de $ 813,000,000. Depois de vários testes neste verão, que tomou com sucesso off por si só, e pousou em um porta-aviões. Possui dois compartimentos segurando que poderiam transportar milhares de quilos de armas e munição. E este é apenas um protótipo.
BAE Systems está desenvolvendo sua própria versão, chamada de Taranis, que recentemente fez seu vôo inaugural em uma escala de teste remoto no sul da Austrália. Comércio website Defesa-Update diz que o governo do Reino Unido tem sido "altamente secreto" sobre as Taranis ", que é conhecido por ter sido visto em público em apenas duas ocasiões."
Boston Dynamics desenvolveu o robô Atlas para um desafio DARPA anterior para robótica.
"Eu gosto de robôs. Nós todos amamos robôs ", diz Asaro. "Nós não ama robôs assassinos. Queremos construir robôs que fazem coisas boas para o mundo. "
Eles estão na fronteira entre a Coreia do Sul ea Coreia do Norte sentinelas-robô coberto com metralhadoras se prestar atenção para intrusos na zona desmilitarizada.
"Parece um pouco como um R2D2 de altura e tem uma metralhadora em cima", diz o Dr. Peter Asaro, a robótica e professor da New School. "É usado em um modo operado remotamente, mas tem a capacidade de plena autonomia, para que ele possa usar suas câmeras para detectar alvos humanos e fogo para eles."
Assista a um vídeo de demonstração das sentinelas robô aqui.
"Estamos preocupados com as tendências de autonomia na guerra há vários anos", diz Mary Wareham da divisão de armas da Human Rights Watch.
Tão preocupado que um grupo de ativistas de direitos humanos (como Wareham), bem como cientistas e roboticistas (como Asaro), para não mencionar alguns Prémios Nobel, decidiu que era hora de formar o sem rodeios chamado Campanha para parar Killer Robots .
A campanha lançada em abril de 2013 com um grande show em Londres, do
lado de fora do Parlamento com uma versão dos robôs que trabalham contra
humanóide amigável.
O robô em exposição com a campanha em Londres tem um nome: David Wreckham . Ele também tem uma conta no Twitter . Ele realmente tem uma história estabelecida no Reino Unido, a partir de no show do BBC crianças "Blue Peter".
Em 21 de outubro, eles aproveitaram a reunião de segurança da
Assembléia Geral da ONU para aumentar a conscientização sobre a sua
promessa de preventivamente proibir armas totalmente autônomos.
Seu próximo alvo é o de Genebra, onde os partidos da ONU vai realizar
uma convenção anual sobre Armas Convencionais em novembro.
Eles decidiram criar a coalizão porque a questão "é um pouco de um órfão no momento", diz Wareham. "Não há um único fórum internacional para isso."
Ela compara a formação do supergrupo da Campanha Internacional para a
Proibição das Minas Terrestres, formada HRW e outras cinco ONGs, há 20
anos.
Jody Williams, que ganhou o Prêmio Nobel da Paz por seu trabalho contra
as minas terrestres, é uma porta-voz da chave para o movimento anti
robô assassino também.
Há diferenças importantes entre os drones, minas terrestres e os "robôs
assassinos"-a mais grave termo que está sendo "arma totalmente
autônomo", ou "robô autônomo letal", como a ONU coloca.
As minas terrestres são automáticas e não-autônoma descontraído como uma armadilha, detonada por um pé de incautos. Drones são remotamente pilotadas por seres humanos. Mas robôs assassinos tanto pode selecionar seus alvos, e se envolver em força violenta, completamente fora do controle humano. Desenvolvimento e testes destas armas são um precursor de um tipo muito diferente de guerra.
A diferença entre drones e robôs assassinos ...
26 de outubro de 2013 00:31 UTC @ democracynow
"Estes não são robôs assassinos. Ele não é como há pessoas insensíveis por trás dessa coisa toda." -Ex-zangão operador http://t.co/bzAt4BRE9t
| |
"Então, basicamente a máquina é tomar a decisão de matar, e esse é o problema que temos com ele", diz Wareham. "Nós não pensamos que o poder deve ser entregue a uma máquina. Queremos ver um ser humano sempre em loop. "
Com o debate público em curso sobre a utilização da América de drones, algum impulso está do seu lado. Mas a campanha contra robôs assassinos quer salientar que é diferente.
"Estamos separados [a partir de campanhas de drones] porque é mais sobre o método de guerra", diz Wareham. "Isto é sobre o meio:. Os robôs armados"
"Autonomia" é a palavra que distingue essas criações de seus irmãos drones. APRESENTAÇÃO: A History of Robots consciente de si Filmes
O X47B é um veículo aéreo não tripulado de combate elegante, desenvolvido pela Northrop Grumman para a Marinha os EUA, no montante de $ 813,000,000. Depois de vários testes neste verão, que tomou com sucesso off por si só, e pousou em um porta-aviões. Possui dois compartimentos segurando que poderiam transportar milhares de quilos de armas e munição. E este é apenas um protótipo.
BAE Systems está desenvolvendo sua própria versão, chamada de Taranis, que recentemente fez seu vôo inaugural em uma escala de teste remoto no sul da Austrália. Comércio website Defesa-Update diz que o governo do Reino Unido tem sido "altamente secreto" sobre as Taranis ", que é conhecido por ter sido visto em público em apenas duas ocasiões."
Robôs assassinos vão desde os sofisticados Taranis a armas mais
básicas, como um esqueleto movendo-se com uma metralhadora em cima que
pode disparar à vontade que foi demonstrada para os líderes do Exército dos Estados Unidos no início deste mês na Geórgia.
"Um robô se tornar um membro da equipe, vemos isso como uma questão de
treinamento", diz o tenente-coronel Willie Smith, o chefe do Exército
encarregado de veículos terrestres não tripulados em Fort Benning, na
Geórgia. Estes robôs com automático, não-armas autônomas poderia estar no campo de batalha dentro de cinco anos .
26 de outubro de 2013 08:27 UTC @ TheHangingWire
Eu não posso acreditar que existem esses robôs assassinos reais. RIP humanidade. http://t.co/ppzAyTqFI3
| |
Muitos dos robôs reais será mais parecido com os Transformers do Robocop ou Exterminador do Futuro. Professor Christopher Coker da London School of Economics é o autor de Geeks do guerreiro: Como a tecnologia C21st está mudando a forma nós lutamos e pensar sobre Guerra e escreve em grande detalhe:
Os robôs humanos existe também, apesar de, como evidenciado pelo teste de PETMAN Boston Dynamics."Com o desenvolvimento de nano-tecnologia, alguns podem 'enxame', outros podem olhar como tratores, tanques e até baratas ou grilos. Todos os tipos de formas e estilos de locomoção estão sendo testados. Novos projetos de pesquisa incluem robôs que podem dobrar-se, voar e engatinhar, andar para cima e rolar para baixo. Alguns especialistas em robótica estão mesmo olhando para a ameba humilde em busca de inspiração - o resultado é o chembot composta de partículas que são muito duros quando comprimido, mas, dado o espaço, como o fluxo de líquidos, permitindo assim que ele entrar em qualquer espaço não menor do que seu estado totalmente comprimida, mais ou menos, independentemente da forma do espaço em questão. "
Os defensores do uso dessas máquinas no ponto do risco minimizado de mortes soldado. Mas a junho 2013 enquete por UMass Amherst mostra que é, na verdade, soldados e ex-que são os mais preocupados com drones ea guerra autônoma.
"Eles não vão sair e cometer crimes de guerra, eles não vão estuprar,
mas o que quer dizer que eles não vão funcionar mal e fazer algo
terrivelmente errado?" Pede Wareham.
"Os seres humanos não são perfeitos, mas a concessão da tecnologia ser
capaz de chegar a esse nível de inteligência artificial para distinguir
os seres humanos de combatentes ... para tomar as decisões jurídicas
complexas, no calor da batalha" é perigoso.
Tem certeza disso?
22 de outubro de 2013 13:45 UTC @ MIMS
O problema com a campanha para acabar com robôs assassinos é que assume os seres humanos são mais adequados para tomar tais decisões. http://t.co/CvrG16TKbM
| |
25 de outubro de 2013 13:33 UTC @ zeynep
BTW complexidade, imprevisibilidade e alta taxa de todos os grandes projetos de software (gov & corp) o fracasso é parte do motivo pelo qual robôs assassinos são uma má idéia.
| |
Você só precisa olhar para as muitas provas da X47B para ver um exemplo do que pode dar errado tecnicamente.
Após conseguir sucesso em um porta-aviões por duas vezes, uma terceira
tentativa foi interrompida por causa de um erro do computador em
sistemas da máquina. A maneira PopSci escreve
está dizendo: "três computadores de navegação das aeronaves não
poderiam concordar com o curso de direito de ação, então eles decidiram
que o X47B não poderia pousar com segurança na porta." Estes são
literalmente máquinas de tomada de decisões.
Dr. Asaro diz que incidente foi levado de "uma estratégia de correção
de erros clássico desde os primeiros dias de computadores. Você pode fazer todos os seus cálculos, três vezes, e se dois deles concordar, você vai com isso. "
"Se eles estão todos os três discordam, você sabe que algo está errado", diz ele. "Você não sabe qual confiar."
"Roboticistas sabe o quão difícil é fazer com que seu robô para fazer o que ele faz no laboratório," Asaro continua. "E a idéia de armar o robô ... Computadores são uma espécie de mimado. O código pode ser logicamente correto e ainda não faz o que é suposto fazer. As matérias constantes de temperatura. Código é executado de forma diferente porque a graxa nas engrenagens é um pouco mais quente hoje do que era ontem, o sensor se comporta um pouco diferente hoje, pois a tensão é um pouco menor. [Há] tantas pequenas coisas que faz com que seja muito, muito difícil de fazer pesquisa. "
Ele ressalta que os vídeos de demonstração que os militares eo público vê são o melhor correr para fora de 100 testes, ou mais. "A idéia de que você está indo para obter este tipo de comportamento confiável o tempo todo é muito difícil", diz Asaro.
E nós ainda nem começamos a falar sobre o problema potencial de hacking.
Killer Robots de hackers?
"Você não pode cortá-lo e assumir todos os tanques militares dos EUA
agora, mas uma vez que está tudo informatizado, que se torna uma
possibilidade", Asaro explica. E eles podem ser transformados em seus respectivos proprietários.
A Agência de Projetos de Pesquisa Avançada de Defesa, ou DARPA, a divisão do Pentágono R & D, anunciou recentemente um concurso para construir o melhor software de defesa à prova de hacker. O grande prêmio? A cool $ 2 milhões.
# Piadas
30 de outubro de 2013 16:49 UTC @ drunkenpredator
Neste ponto, até mesmo os robôs assassinos estão com medo da NSA.
| |
Cibersegurança já é uma importante questão de segurança nacional, com os americanos atualmente cortar sofisticados ataques de hackers chineses . Lance robôs totalmente autônomos na briga, e você tem um campo minado em potencial de coisas que podem dar muito errado.
Boston Dynamics desenvolveu o robô Atlas para um desafio DARPA anterior para robótica.
Hacking também entra o problema da responsabilidade. Um robô armado pode ser enviado em qualquer número de situações e ferir ou matar pessoas, e como sabemos que o enviou?
Os críticos da campanha dizem que estão abafando pesquisa e desenvolvimento crítico.
Dr. Asaro e seu comparsa Dr. Noel Sharkey são um pouco como de Gotham
Lucius Fox, chave para o R & D, mas com seus limites morais e
éticos. Esses defensores não querem banir todos os robôs autônomos, mas sim iniciar uma discussão sobre o ponto de weaponizing eles.
A presença de Asaro e Sharkey no rolo campanha ajudá-los com sua rua
cred científica, além de centenas de outros cientistas que assinaram
diante.
Tão ruim quanto ADM?
Fora do R & D, Asaro diz que há um "argumento moral mais profunda"
tinha de ser: "se é moralmente aceitável para permitir que uma máquina
de decidir quem vive e quem morre."
Robôs assassinos são "muito comparável a armas químicas e biológicas no
sentido de que eles são moralmente terrível, eles são muito perigosos
para usar", Asaro me diz sobre o telefone em um dia em que funcionários
da ONU na Síria miss a inspeção de armas químicas prazo .
"Ela só faz mais sentido ter todo-o-board proibição deles do que tentar
regular cuidadosamente o que poderia ser potencialmente usos benéficos. Há casos raros no mundo real, onde o uso de armas químicas e biológicas é moralmente justificável. Deixando aqueles acontecer também permite que um monte de coisas ruins acontecem. "
Robôs weaponizing, dando-lhes total autonomia e enviá-los para a
batalha requer uma reflexão meticulosa e planejamento em primeiro lugar,
incluindo "as decisões pré-programadas sobre danos colaterais".
"Será que vai haver um algoritmo que diz que este militar [dispositivo] é igual a isso muitas vidas de civis?" Asaro pergunta. "E eu não acho que nós queremos chegar a este."
Os maiores opositores a esta campanha são provavelmente os empreiteiros
militares privados que estão a fazer o máximo de dinheiro e estamos
falando de centenas de milhões de dólares que eles já estão no raking
para o desenvolvimento de protótipos.
Asaro tem falado com muitos empreiteiros militares que diz que são
"sensíveis a esta questão", mas "obviamente é um grande potencial de
negócios para eles."
Skynet, alguém?
(Enquanto estamos neste ponto, deve-se notar que, segundo a tradição
dos filmes "O Exterminador do Futuro", Skynet tornou-se
"auto-consciente", em 1997 e lançou seu ataque nuclear sobre a
humanidade em 21 de abril de 2011. Estamos bem passado que agora, e
permanecer vivo. # winning)
Sim, realisticamente o mundo ainda está distante do alto nível de
inteligência artificial necessários para atingir os robôs de guerra
autônomas com um alto nível de funcionalidade. Mas isso não quer dizer que nós não estamos chegando lá, com a velocidade de um dos Wildcats esses terríveis , que pode correr uma milha de 4 minutos.
Após pressão da campanha para acabar com Killer Robots, o governo dos
EUA foi o primeiro a emitir uma política real de armas totalmente
autônomos, ainda que vago e linguagem absolutamente sujeito-a-mudar-.
(Expira em 10 anos.) Pelo menos uma dúzia de outros países estão em
discussões sobre a emissão de políticas semelhantes, mas a campanha
gostaria de ver mais progresso, mais rápido.
"Nós não estamos promovendo o ângulo de sci-fi, a mídia adora. Nós não temos um Terminator em nosso site ", Wareham diz com uma risada. "Mas queríamos algo provocante. É por isso que nós escolhemos 'robôs assassinos. " "Eu gosto de robôs. Nós todos amamos robôs ", diz Asaro. "Nós não ama robôs assassinos. Queremos construir robôs que fazem coisas boas para o mundo. "
Nenhum comentário:
Postar um comentário
Faça seu comentário aqui ou deixe sua opinião.
Observação: somente um membro deste blog pode postar um comentário.