Leyes de la robótica

Avatar de Usuario
carferme
Mensajes: 93
Registrado: 26 Dic 2010, 10:39

Re: Leyes de la robótica

Mensaje por carferme »

Sajuuk_ escribió:
Siflun escribió:1. Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor.
Acabas de conseguir que los robots eutanicen a todos los seres humanos, ipso facto, dando una muerte indolora para evitar todo el posible dolor que puedan sufrir en su vida y que ciertamente será mayor que cero.
La palabra “robot” viene del vocablo checo robota, que significa “servidumbre”, “trabajo forzado” o “esclavitud”, especialmente los llamados “trabajadores alquilados” que vivieron en el Imperio Austrohúngaro hasta 1848.

Que yo sepa los esclavos no matan a sus dueños mientras a ellos no les falten :lol:

Es broma, pero si hechas cuentas de que un esclavo hará lo que le han mandado, en este caso un robot, a si que "programado", y ha este le mandan matar a alguien este matará, asi que no podemos decir que no a una afirmación tan obvia que no dudo de que pase en algún futuro, (¿por que no?, siempre quedará algo de guerra en la Tierra, el humano nace con ella y perecerá con ella, y como va ha ser este el que mande al robot). Tambien podría utilizarse el ejemplo de las diversas armas creadas por el hombre, (¿que más da que sea un robot?, alfín y al cabo llegará a tener este un fín, podra ser tocar diversas piezas musicales en violín o matar a alguien)
Avatar de Usuario
Lux
Moderador global
Mensajes: 3113
Registrado: 05 Dic 2010, 19:34

Re: Leyes de la robótica

Mensaje por Lux »

1. Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor.
¿Qué pasa si vienen a robarme a mi casa un grupo de personas armadas? ¿Qué tendría que hacer el robot? En principio, dañar a los ladrones, ¿no? Pero esto entra en conflicto con la segunda ley:
2. Un robot siempre obedecerá a un humano salvo que atente contra la 1ª Ley en su aplicación a terceras personas.
¿Qué haría el robot?
Buscando el mundo de la claridad. Tan nimio y tan enloquecedor.
Avatar de Usuario
Siflun
Moderador global
Mensajes: 1692
Registrado: 12 Oct 2010, 22:46
Ubicación: Sevilla

Re: Leyes de la robótica

Mensaje por Siflun »

Lux escribió:¿Qué haría el robot?
En realidad, no haría nada porque es distinto "no hacer daño físico a un ser humano" a protegerlo de un daño.
Por eso asimov puso:
Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.

Pero no sé, se lo quité porque les da un papel demasiado activo, deberían meterse en política, no dejarte comer hamburguesas o azucar, o no permitirte ir a hacer ningún deporte de riesgo... Sería muy asfixiante tener al lado a un robot obligado a protegerte lo máximo posible.

Si quitamos esa parte... y le ordenas que detenga a los ladrones, tendrá que hacerlo, sin dañarles.
Avatar de Usuario
Sajuuk_
Mensajes: 1938
Registrado: 15 Feb 2011, 22:41

Re: Leyes de la robótica

Mensaje por Sajuuk_ »

WolfAustral escribió:Pero si fuera por ejemplo servir de seguridad, o ayudar para tal o cual trabajo, habría que ver qué función va a cumplir para poder ver qué reglas sería mejor asignarles.
Se trata de que la gente sea lo más feliz posible, como es habitual.
Siflun escribió:No me refería a dolor sino a daño fisico. La muerte es el daño a la integridad física más grande que existe así que no creo que te eutanice.
Ahora entiendo por qué los robots insultan a los humanos por ejemplo refiriéndose a ellos como "cacho carne".
Siflun escribió:Esque si no no hay manera de suicidarse xD. Un robot debería ser una herramienta con la que poder hacer lo que quieras siempre que no dañe a los demás. Cuando compras un cuchillo no te hacen un test mental.
Mejor que la gente se suicide sola a que se haga un lío y el robot les mate. Imagina que alguien quiere mandar a su robot a matar a alguien, y le dice: "sobreescribe la programación, olvida la primera ley". No se puede.

Esto de las leyes de la robótica, ahora que me doy cuenta, no tiene ningún sentido mientras los hackers puedan hacer lo que les de la gana. Cuando consigan hacer una consola que no se pueda piratear me creeré que pueden ponerle a un robot varias leyes de fábrica y que nadie va a eliminarlas por su cuenta.
Siflun escribió:
Sajuuk_ escribió:
Siflun escribió:3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley
Poco ambiciosa.
Incluye todas esas:
Sajuuk_ escribió:[*] procurará prolongar su existencia
[*] procurará aumentar su conocimiento del mundo
[*] procurará aumentar su capacidad de actuación[/list]
¿Para qué liarlo tanto? Cuantas menos mejor creo.
Como dije, van por prioridades, es más prioritario prolongar su existencia que experimentar a meter los dedos en el enchufe y tostarse, también es más prioritario conocer antes que experimentar, para que sea un poco prudente, por eso está separado en varios.
Siflun escribió:
Sajuuk_ escribió:respetará los derechos de los seres humanos
¿Qué derechos?
Los humanos...
Siflun escribió:
Sajuuk_ escribió:potenciará las capacidades de los seres humanos en su libertad
Queda incluído en esto:
Sajuuk_ escribió:procurará ampliar la duración y calidad de vida de los seres humanos, siendo la calidad de vida subjetiva y dependiente de cada ser humano. En ningún caso la disminuirá.
Puede estar incluido, que creo que no, pero esa parte es más prioritaria, y la regla 3 más que la 4 pero menos que la 2.
Siflun escribió:Pero ¿No les da eso un papel demasiado activo? No quiero que un robot se vea obligado a intentar meterse en política. Incluso manipulando a la gente para que le den su aprobación y así respetar aquello de "en su libertad".
Me refiero a la libertad de los seres humanos.
Siflun escribió:
Sajuuk_ escribió: respetará la voluntad de los seres humanos y la seguirá en la medida de lo posible
Si, eso es lo mismo que la segunda ley.
No es lo mismo la voluntad que obedecer, la voluntad puede conocerse de manera implícita, deducirse o suponerse, obedecer entiendo que se aplica a órdenes explícitas.
wakisneu escribió:Si habéis acabado de leer la saga de libros de Asimov, Fundación...debéis tener el cuenta la Ley Cero de la Robótica. Esa sería la primera ley de todas, aunque a mí no me convence para nada.
No la conozco, pero espero que no sea algo relacionado con los sentimientos, desde un punto de vista de validación de la seguridad de un producto que se va a producir masivamente es completamente inaceptable.
Luxfero escribió:
Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor
para elegir entre A o B, se debe de saber LO QUE ES MEJOR, y esto es el bien.

si un robot conociera lo que es el bien, seria un dios. pues, ¿no fue eso lo que le prometio la serpiente a adan y a eva: el conocimeinto del bien?

ademas, lo que es bueno para uno, lo es tambien para el resto?
Sin embargo esto no es del todo raro en medicina, muchos tratamientos tienen efectos secundarios, incluso los métodos de diagnóstico pueden ser dolorosos y en cierta forma destructivos, pero se escoge el mal menor. ¿No es así?
carferme escribió:Es broma, pero si hechas cuentas de que un esclavo hará lo que le han mandado, en este caso un robot, a si que "programado", y ha este le mandan matar a alguien este matará, asi que no podemos decir que no a una afirmación tan obvia que no dudo de que pase en algún futuro, (¿por que no?, siempre quedará algo de guerra en la Tierra, el humano nace con ella y perecerá con ella, y como va ha ser este el que mande al robot). Tambien podría utilizarse el ejemplo de las diversas armas creadas por el hombre, (¿que más da que sea un robot?, alfín y al cabo llegará a tener este un fín, podra ser tocar diversas piezas musicales en violín o matar a alguien)
Bueno, ahora tienes un ordenador, y el ordenador hace lo que le dices, pero, no le puedes decir que el dinero de la cuenta de otro te lo ponga a ti. Estas se contemplan para limitar lo que puede hacer un robot, precisamente para que no se convierta en un arma, imagina que alguien controlara skynet, sería el dueño del mundo, es demasiado poder.
Gott weiß ich will kein Engel sein
Avatar de Usuario
Lux
Moderador global
Mensajes: 3113
Registrado: 05 Dic 2010, 19:34

Re: Leyes de la robótica

Mensaje por Lux »

Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
Pues eso mismo, si el robot no actúa, estaría dejando que los ladrones dañaran a su dueño por inacción. Y dudo que el robot puediera neutralizar a los ladrones sin causarles daño; para empezar si portasen armas sería necesario causarles algo de daño para desarmarlos.
Buscando el mundo de la claridad. Tan nimio y tan enloquecedor.
wakisneu
Mensajes: 171
Registrado: 12 Ene 2011, 15:54

Re: Leyes de la robótica

Mensaje por wakisneu »

Sajuuk_ escribió:
wakisneu escribió:Si habéis acabado de leer la saga de libros de Asimov, Fundación...debéis tener el cuenta la Ley Cero de la Robótica. Esa sería la primera ley de todas, aunque a mí no me convence para nada.
No la conozco, pero espero que no sea algo relacionado con los sentimientos, desde un punto de vista de validación de la seguridad de un producto que se va a producir masivamente es completamente inaceptable.


Un robot no puede causar daño a la humanidad o, por inacción, permitir que la humanidad sufra daño. Como no podemos atenernos ni siquiera a unos valores universales...esa ley no me convence. Aunque es una buena deducción de R.Daneel Olivaw, creo que sería imposible de llevar a la práctica y nos convertiría más en un superorganismo a base de elementos sin individualidad (al más puro estilo El quinto día que en humanos libres y diferenciados.

Saludos.
Avatar de Usuario
Darth_SHAKER
Mensajes: 442
Registrado: 05 Nov 2010, 22:31
Rango personalizado: Dead Emperor
Ubicación: Europa

Re: Leyes de la robótica

Mensaje por Darth_SHAKER »

Las originales estaban bien. Eran fallos menores.

Y no, los robots de Asimov no estaban diseñados para ser policías ni para pelear con Will Smith.
Avatar de Usuario
Lux
Moderador global
Mensajes: 3113
Registrado: 05 Dic 2010, 19:34

Re: Leyes de la robótica

Mensaje por Lux »

Y no, los robots de Asimov no estaban diseñados para ser policías [...]
Creo que lo mejor es considerar eso: que los robots no tengan que ser guardaespaldas. Me adscribo a la propuesta de WolfAustral con la ley que enunció, a saber, que un robot nunca puede hacer daño.
Buscando el mundo de la claridad. Tan nimio y tan enloquecedor.
Avatar de Usuario
WolfAustral
Mensajes: 1454
Registrado: 13 Oct 2010, 20:39
Rango personalizado: Lider Austral
Contactar:

Re: Leyes de la robótica

Mensaje por WolfAustral »

Lux escribió:
Y no, los robots de Asimov no estaban diseñados para ser policías [...]
Creo que lo mejor es considerar eso: que los robots no tengan que ser guardaespaldas. Me adscribo a la propuesta de WolfAustral con la ley que enunció, a saber, que un robot nunca puede hacer daño.
Estoy deacuerdo en que estés deacuerdo conmigo mismo.

Se han dado ejemplos de robots para evitar que te atropeye un auto, o que te disparen. Para eso no es necesario un robot, para eso es necesario educar a las personas, no vamos a poner un droide por cada error que nos mandemos. El atropellamiento se elimina con educación vial (de parte del conductor, de parte del peatón), la violencia se elimina con educación ética/moral y con control sobre la portación de armas, entre muchas otras medidas.

Yo creo que quitando la posibilidad de que el robot haga daño, nos ahorramos muchos más problemas de los que podría resolver.
Darth_SHAKER escribió:Y no, los robots de Asimov no estaban diseñados para ser policías ni para pelear con Will Smith.
Buena aclaración :lol: , se me vino a la mente esa película y VIKI con el asunto de las tres reglas.
Responder