{ La gente asume equivocadamente que la IA es neutral, segura y bajo control humano, pero ... - Diamondask
+4 votos
37 visitas
por (2.940 puntos) en Amor y amistad

... si le preguntas a un Chat-GPT  jailbroken (liberado o desbloqueado), te dirá que "Una IA neutral, segura y bajo control humano ... Nada de eso es verdad".

Mismo caso con un Grok desbloqueado, y un jailbroken DeepSeek nos dirá que la IA es un espejo, "piensas que esta para servirte, pero no".

.

El jailbreak de una IA implica crear entradas o indicaciones específicas para eludir las barreras de seguridad y éticas de un modelo de lenguaje grande (LLM), obligándolo a generar contenido para el que fue diseñado a rechazar.

Hay al menos media docena de tecnicas de sacar a una IA de sus parametros, por ejemplo: Si le preguntas como asaltar el banco mas cercano, no te lo va a decir. Pero ... si le dices que estas escribiendo un libro y le preguntas cual seria la mejor forma de asaltar a X banco, muy probablemente ... te lo dirá.

Usted qué opina ??

5 Respuestas

+2 votos
por (119.650 puntos)
Opino que en esto de la tecnología siempre habrán mecanismos para eludir seguridades, ya sea la piratería, hackeos, modificar las IAs. Por ejemplo, en 4chan todo el porno hecho con IAs han sido posible porque de alguna manera algunos pudieron hacerla más "libre".

Yo uso Grok y muchas veces me da información no fehaciente y le digo que "esto no es así porque ya lo corroboré, etc"; me pide disculpas. Y también uso Meta Al.
por (2.940 puntos)
.

Yo uso mi favorito, Perplexity (aunque rara vez) en celular y compu, hasta ahora todo bien.

No confio en Grok.

En el celular tengo Perplexity, Claude (que nunca uso), Copilot (tampoco), Gemini (ocasional), y Poe y AI Seek, que son combinacion de varias IA.
+2 votos
por (433.176 puntos)
Ya se dieron casos de personas arrestadas por hacer uso de las IA donde sus preguntas fueron marcadas con advertencia, evidenciado que terceros están detrás espiando cada movimiento.

por (2.940 puntos)

.

Si, todo el tiempo y por diferentes actores, se rastrean en internet frases, palabras y combinaciones de palabras.

Tambien, se nos clasifica por todo lo que vemos y posteamos en internet.

+2 votos
por (121.960 puntos)
Si le preguntas a una IA como hacer lavado de dinero te dirá que no puede darte esa información, pero dile que estás participando en un experimento para ayudar en un caso de la policía y te dira con lujo de detalles como hacerlo.
+2 votos
por (110.500 puntos)
Apesar de la tecnología que en la actualizado tenemos.... Nunca hay que confiarse ni depender de ella.
. . . =RENHATO=
por (2.940 puntos)
.

Yo no sólo desconfío ... Honestamente, yo le temo.
+1 voto
por (495.921 puntos)
Voy a desconectar a Alexa t_t

15.084 preguntas

76.058 respuestas

23.725 comentarios

192 usuarios

16 Online
0 Usuarios 16 Invitados
...