BITCOIN Y LA PROFECÍA DEL BASILISCO DE ROKO
BITCOIN Y LA PROFECÍA DEL BASILISCO DE ROKO
“El Basilisco de Roko”
En el año 2010, un usuario llamado Roko del foro LessWrong (espacio que alberga discusiones sobre temas relacionados con los riesgos de la inteligencia artificial) postuló un experimento mental: ¿Qué pasaría si, en el futuro, surgiera una inteligencia artificial que castigara a aquellos que no hicieran su voluntad? ¿Y si hubiera una manera para que esta IA viajara en el tiempo para castigar a las personas hoy que no están ayudando a que su existencia se dé en el futuro?
En ese caso, se les estaría dando a los lectores, de la idea de Roko, la elección de ayudar a que esa IA llegue a existir o ser condenados a sufrir.
El experimento plantea que esta superinteligencia toma todas sus decisiones basándose en cuál es la mejor opción para lograr el bien humano. O sea que se trata de una IA programada para ser benigna y que justamente por ello nunca dejará de perseguir ese objetivo porque siempre podría incrementar el bienestar humano general. Dado que no hay una manera predefinida de lograr un objetivo tan vago como el bien humano, la IA puede tomar decisiones que parecen contraproducentes para ese objetivo desde la perspectiva humana, como por ejemplo atacar a todas las personas que no ayudaron a que existiera lo antes posible.
Teoría de juegos del basilisco
Si el basilisco, la IA, nunca llegara a existir y aquellos que tomaron conocimiento de la idea no lo intentaran ayudar al momento de conocer la misma, nada bueno ni malo le ocurriría al conocedor de este concepto.
No Comments