En redes sociales y plataformas online se ve de todo: gente que busca entretenimiento sano, personas que buscan conectar con otras, gente que se dedica al insulto y al chisme y, por supuesto, predadores… muchos predadores.
No es una exageración, ni es un intento por restar valor o importancia a estos recursos, es simplemente una realidad que ha ido creciendo con el paso de los años y que nadie, hasta ahora, ha podido controlar con algún porcentaje mínimo de éxito.
Se ha tratado de todo: verificación de cuentas, exigencia de datos personales reales, límites de edad, políticas fuertes, segmentaciones por edad y consentimiento de padres y tutores en el caso de menores de edad. Sin importar lo que se implemente, siempre ocurre lo mismo: todos se juntan y los predadores hacen su agosto.
¿Qué hacer ante una problemática que es en esencia un reflejo de las desviaciones y podredumbre de una sociedad cada vez menos humana o sensata? La respuesta, según los de Roblox, es inteligencia artificial, la tecnología que -en teoría, al menos- todo lo puede.
En lo que parece un episodio sacado de Los Jetson o cualquier otro cómic de la era espacial o ambientado en el futuro, los genios de Roblox decidieron implementar un sistema de verificación de edad como paso previo para a entrar a las salas de chat de la plataforma. En este punto, es necesario señalar que Roblox es una las plataformas que en más problemas de acoso infantil se ha visto envuelta, y por eso se entiende la medida.
Desafortunadamente, la solución de verificación de edad de Roblox utiliza IA para los fines y… ¿quién ha dicho que una máquina puede saber qué tan vieja o joven es una persona sólo guiándose por su aspecto facial? Como era de esperarse, esto ha sido un tremendo tollo, generando quejas tanto de usuarios que no pueden chatear con quienes desean como de desarrolladores que se ha visto impactados por esta novedad.
Quizás lo peor de este asunto de Roblox es que el sistema, de manera rutinaria, se equivoca asignando las edades, resulta que niños han sido clasificados como adultos y viceversa, aumentando así el riesgo de caer en redes de predadores y otras situaciones desagradables. No ayuda a la causa el hecho de que, como siempre, han aparecido terceros que sacan provecho de la situación vendiendo cuentas ya verificados en lugares como eBay y otros que simplemente buscan a forma de burlar el sistema.
Moraleja: la IA no es la respuesta o solución a todo, y a veces es mejor utilizar métodos lógicos, aun si parecen anticuados. La triste realidad es que no hay manera de controlar a la gente en estos ambientes virtuales, sobre todo cuando se ponen creativos para salirse con la suya.
