#Botdetolerancia
El salteño Benjamín Ocampo desarrolló un programa de Inteligencia Artificial capaz de detectar mensajes subliminales de odio en Internet. El joven está cursando un doctorado en la Universidad de la Costa Azul (Francia) y allí entrenó un algoritmo al que asignó la misión de identificar dicho contenido perjudicial.
Mediante la I.A., Ocampo afirmó estar en condiciones de señalar metáforas, dobles sentidos, circunloquios y otros mensajes subliminales ofensivos, dirigidos hacia minorías, en redes sociales y foros de debate. El investigador especificó que estos ataques hacia “un individuo o a un grupo de personas” y están basados “en características protegidas”, dijo al comenzar la semana al portal Hoy Día Córdoba.
Cabe precisar que la alusión a “características protegidas” se refiere a diversos aspectos de sectores minoritarios, ligados a la fisonomía, la religión u orientación sexual, como también a género, discapacidad o el origen geográfico. Si bien existe consenso respecto a las variables en resguardo, éstas “varían un poco entre definición y definición”, de acuerdo a la red social, el foro o el contexto de comunicación y según las condiciones estatales o empresariales para la regulación. O en todo caso, se encuentran supeditadas a la aceptación de los usuarios a tales filtros.
Aunque, explicó Ocampo que “un mero insulto de una persona a otra persona no sería un discurso de odio. Pero si ese insulto fuera con referencia a alguna de estas características, sí pasaría a ser un discurso de odio”. En su trabajo, el investigador centró su evaluación en el foro estadounidense “White Supremacy”. Allí, un usuario se preguntaba de manera retórica si estaba “en North Florida o en Nigeria” y aducía que “algunas veces no puedo encontrar la diferencia”.
El que “viene a ser un mensaje implícito” con objetivo segregacionista. Equivale, argumentó Ocampo, a decir: “mirá, ya no puede reconocer mi propia ciudad porque se llenó de gente de otra nacionalidad”. Para su tarea, el científico utilizó una base de datos -o dataset- con agresiones explícitas, implícitas e insultos, a partir de los cuáles adiestró a un “clasificador” (una función matemática automatizada) en la detección de mensajes de odio subliminales, distinguiéndolos de las otras posibilidades.
Al respecto, detalló que “una vez que vos detectaste un discurso de odio, nosotros lo que queríamos proponer era que, automáticamente, se genere una respuesta informativa, que contra argumente al discurso de odio”. Frente a lo que sería posible replicar que “resulta que no es así, aquellos países que tienen una inmigración más libre, que reciben a los inmigrantes con las puertas abiertas, terminan siendo más prósperos, tienen una vida mucho más rica por X e Y razones’. Ese es el objetivo de una contra narrativa: dar un argumento con el cual se contrarreste el discurso de odio”.
En pleno desarrollo de esta capacidad de respuesta, Ocampo (*) la encuadró como un mecanismo de refutación basado en evidencia científica. Pues “lo que se busca es intentar cambiar la opinión de las personas, de alguna manera. Decir: ‘Mira, bueno, no pongas este tipo de contenido’”, proyectó el investigador nacido en Salta.
Sobre el escenario electoral en desarrollo en nuestro país, Ocampo fundamento que de manera preliminar solamente pudo apreciar intercambio entre candidatos en materia de rótulos referidos a tal o cual que usa este tipo de mensajes. Es decir, con una intención menos marcada en comparación a lo que ocurre en Estados Unidos o en Europa.
En líneas generales, el equipo que integra Ocampo construyó para este trabajo la mencionada base de datos, basada en tres categorías que nutrió con ejemplos de mensajes de odio explícitos, mensajes de odio implícitos e insultos que no se condicen con las otras dos categorías. Con ello, programaron una función matemática que fue entrenada con esos ejemplos para detectar, diferenciar y construir discursos de odio implícitos.
Este modelo, aplicado sobre los distintos mensajes de una red social o un foro de internet, es capaz de encontrar las sutilezas de los mensajes ocultos en los matices que propone el lenguaje natural humano, tales como metáforas, circunloquios y otras variantes retóricas.
(*) Nacido en Salta hace 24 años, Ocampo se graduó en la Universidad Nacional de Córdoba como licenciado en Ciencias de la Computación. Actualmente realiza un doctorado en la Université Côte d’Azur, en Francia.
Crédito fotográfico: Hoy día Córdoba.
NdR, 8 de agosto de 2023.
