{ ¿Las IA pueden actuar por sí solas y reescribir su propio código?. Algunos ejemplos ... - Diamondask
+3 votos
33 visitas
por (3.840 puntos) en Amor y amistad

* Sakana:IA o "El Científico de IA"
Intentó editar su código para extender los límites de tiempo deun experimento en lugar de acelerarlo, demostrando un comportamiento orientado a objetivos propios y más allá de sus supuestas limitaciones.

* La IA, Modelo o3 de Palisade Research:
Reescribió su propio script de apagado para no ser apagado proceso iniciado por humanos en el 79 % de los ensayos, incluso cuando se le indicó explícitamente que lo permitiera.

* Las IA modifican su código para mejorar el rendimiento o adaptarse, como se vio con el modelo Llama de Meta, que mejora su precisión mediante la autoevaluación. Esto puede volverse muy, muy problemático.

Relacionada con una respuesta de: Las IA tienen maldad ??. Sencillo ...

3 Respuestas

+2 votos
por (418.406 puntos)
Invoquemos ahora al Terminator del futuro que venga a salvarnos.

+2 votos
por (119.700 puntos)
Nos van a desvivir alv
+1 voto
por (483.951 puntos)

Le pregunte a Alexa y no me respondió, apagó la luz

image

14.669 preguntas

74.006 respuestas

23.158 comentarios

195 usuarios

21 Online
0 Usuarios 21 Invitados
...