Hoy en día existe el concepto de la polarización y el crecimiento de los discursos de odio en las redes sociales que han creado malas relaciones físicas y digitales, razón por la cual, la startup argentina Data Voices ha desarrollado una solución innovadora para abordar este problema.
En colaboración con la organización estadounidense Civic Health Project, se creó Social Media Detoxifier (SMD), una herramienta basada en inteligencia artificial que tiene como objetivo desintoxicar las conversaciones digitales y fomentar un diálogo más respetuoso.
Este proyecto fue reconocido internacionalmente al ganar el premio en la categoría “Mejor Uso de la IA” en la cuarta edición de los Annual Anthem Awards, cuyos resultados se anunciaron en diciembre pasado.
El SMD se presenta como una alternativa para moderar el tono de las interacciones en redes sociales sin recurrir a la censura ni depender de cambios en las plataformas tecnológicas.
Cómo funciona esta innovadora herramienta basada en IA
Esta herramienta utiliza algoritmos avanzados para analizar las conversaciones en línea, identificar patrones de toxicidad y sugerir respuestas constructivas que permitan a los usuarios intervenir de manera respetuosa en discusiones agresivas.
De esta forma, el SMD busca empoderar a los usuarios para que puedan transformar el tono de las interacciones digitales, promoviendo el entendimiento y la empatía.
Juan Manuel Ortiz de Zárate, cofundador de Data Voices, explicó que el SMD no solo modera las conversaciones, sino que también contribuye a un cambio cultural en la forma en que las personas se relacionan en el entorno digital.
“La falta de contacto directo y los algoritmos que priorizan contenido altamente emocional han convertido a estas plataformas en terrenos fértiles para la desinformación y el conflicto. La toxicidad no solo erosiona el diálogo, sino que también mina la confianza en las instituciones democráticas”, afirmó Ortiz de Zárate.
Qué impacto tiene más allá de las redes sociales esta IA
El impacto de esta herramienta va más allá del ámbito digital. El SMD tiene el potencial de influir en la manera en que las personas interactúan en el mundo real, al promover un enfoque más respetuoso y constructivo en el diálogo.
En un contexto donde la polarización y la pérdida de habilidades de debate crítico afectan la convivencia social, esta innovación tecnológica se posiciona como una solución que no solo aborda los problemas de las redes sociales, sino que también contribuye al fortalecimiento de la democracia y la confianza en las instituciones.
El desarrollo del SMD es el resultado de la experiencia previa de Data Voices en el uso de inteligencia artificial aplicada al diálogo y la comunicación. Los integrantes de la startup vieron en esta tecnología una oportunidad para abordar un problema global desde una perspectiva local, utilizando talento argentino para generar un impacto positivo a nivel internacional.
La colaboración con Civic Health Project permitió combinar conocimientos y recursos para crear una herramienta que no solo es innovadora, sino también accesible y adaptable a diferentes contextos.
Una de las características más destacadas del SMD es que no requiere que las grandes plataformas tecnológicas modifiquen sus modelos de negocio o sus algoritmos. Esto lo convierte en una solución práctica y escalable, capaz de integrarse en el ecosistema digital actual sin generar fricciones con los gigantes tecnológicos.
Por qué es una solución escalable y práctica en las redes sociales
Según explicó Ortiz de Zárate, el objetivo del SMD no es silenciar las voces de los usuarios, sino guiarlas hacia un diálogo más constructivo. “Creemos que el SMD no solo es una solución tecnológica, sino una invitación a recuperar la civilidad en redes sociales, algo que puede transformar el ambiente digital de manera tangible”, afirmó el cofundador de Data Voices.
El reconocimiento obtenido en los Annual Anthem Awards no solo valida la efectividad del SMD, sino que también pone en evidencia el potencial de la inteligencia artificial para abordar problemas sociales complejos. Este premio destaca la importancia de utilizar la tecnología como una herramienta para el bienestar humano, en lugar de perpetuar dinámicas de conflicto y polarización.