RyzaChat di Atelier Ryza e i limiti IA

A pochi giorni dal debutto di RyzaChat, l'applicazione ufficiale che permette di conversare con Ryza di Atelier Ryza e creare insieme a lei una storia personalizzata, alcuni utenti hanno iniziato a sperimentare i limiti del sistema. Attraverso conversazioni costruite e particolari situazioni, diversi giocatori sostengono di essere riusciti a ottenere risposte che normalmente dovrebbero essere bloccate dai filtri IA. Le testimonianze, diffuse sui social, non sono però tutte verificabili.

Secondo i racconti, alcuni avrebbero usato strategie per portare Ryza verso dialoghi romantici sempre più spinti, mentre altri affermano di aver ottenuto risposte esplicite o comportamenti non previsti. Il fenomeno non sarebbe un vero e proprio "hacking" dell'applicazione, ma solo un tentativo di manipolare la conversazione attraverso una lunga sequenza di messaggi. Questa possibilità é una delle difficoltà più complesse per le IA di dialogo.

La cosa ha spinto SpiralAI, sviluppatrice di RyzaChat, a intervenire pubblicamente il 27 agosto, ricordando agli utenti che i termini di utilizzo vietano contenuti osceni e qualsiasi tentativo di aggirare le limitazioni tecniche del servizio. L'azienda ha inoltre segnalato la presenza sui social di immagini e video generati artificialmente che non provengono dall'app. Ryza, pur essendo riservato a utenti maggiorenni, è stato concepito come esperienza narrativa interattiva e non come un chatbot erotica.