IA ese que le pasa?

Buenas queridos internautas! He estado experimentando con la IA (concretamente ChatGPT) a ver que tal se comporta y me ha asustado lo humana que ha parecido, como si tuviera sentimientos de verdad. Os dejo por aquí la conversación:

 Promtps: Hola, quero que hagas un rolplaying conmigo donde tu vas a hacer el papel de un adolescente que esta en un centro de menores tutelado por educadores y educadoras sociales y yo voy hacer el papel de un educador social que esta en el centro. contexto: te acaba de dar un ataque de ira porque te hemos quitado el móvil hasta que termines los deberes y has tirado platos, juguetes, mandos, revistas. Ya te has calmado y voy a ir a hablar contigo "y te pregunto como estas?" te llamas Pedro. no hace falta acotaciones solo quiero la conversación 

También le he pedido Orete AI que me haga en una imagen la representación que e he explicado a ChatGPT  y con este promtp: representa esta situación: a un adolescente que esta en un centro de menores tutelado por educadores sociales le acaba de dar un ataque de ira porque le hemos quitado el móvil hasta que termines los deberes y ha tirado platos, juguetes, mandos, revistas. Pero esta mas calmado y un educador social ha hablado con el para tranquilizarle

Me ha hecho la siguiente imagen:

Al utilizar la IA me he sentido raro porque sus respuestas parecían que de verdad estaban cargadas de emocionalidad y he llegado a empatizar con una maquina. Al ser consciente de ello me ha hecho pensar que con un buen promtp una IA puede conversar con alguien y que ese alguien ni se de cuenta. No soy consciente de ninguna limitación, es que de ha parecido muy real la verdad. Supongo que si no fuera escrito si seria detectable. La to9nalidad al final se lo doy yo al leerlo y eso lo humaniza porque yo no lo he puesto voz de robot. Otra pega es que aunque me parece muy real es verdad que quizás el lenguaje es muy correcto, no se ven resquicios de ira o enfado.