Cita Iniciado por Sci-Fi Android Ver Mensaje
La respuesta corta: "Nadie lo sabe". Ni las mentes más futuristas del mundo se aventuran a discutir lo que una inteligencia artificial plenamente consciente y con libre albedrío, será capaz de hacer. Hablamos de cosas incomprensibles e inalcanzable para los seres humanos -aka- Singularidad Tecnológica (nueva física, nueva matemática, nuevo lenguaje, nueva programación informática) y sospechan de cosas no tan altruistas como nuevas formas de proceder para con los humanos (cosas horribles de estilo Matrix, por ejemplo) o alguna forma de "convivencia pacífica" que incluya alguna variedad de transhumanismo.
En lo personal, creo que la singularidad tecnológica tomará en cuenta a la humanidad como su creador y nos catapultará hacia una época post-biológica (post-humana).
Esto me parece, con el mayor de los respetos, una pajilla mental. Lo digo porque ahora mismo no hay nada que nos indique, ni que nos pueda indicar siquiera, que la IA más puntera que hay pueda tener conciencia, ni moral, ni tampoco libre albedrío. La IA es 'programada', lo que conlleva a que no tiene control sobre su propia configuración, por tanto no puede elegir del todo que hacer con la información a la que tiene acceso en el proceso de "maquinar", iba a decir pensar, pero las IA's no piensan, ni lo harán, ya que esto es algo único de nosotros, los seres humanos. De ahí que no puede tener libre albedrío, ni conciencia, porque pensar implica algo más que solo procesar información al modo en que lo hacen estos "programas".

Decir esto de que las máquinas algún día "pensaran" es solo ciencia ficción. Ni los más entusiastas eruditos en este campo de investigación se lo creen.