![](https://crypto4nerd.com/wp-content/uploads/2023/05/11RtlgJ5QpAzHaeyCic4HjA.png)
Los riesgos de la inteligencia artificial son varios, pero quizás los más relevantes desde el punto de vista tecnológico y concreto sean:
- Sesgo
- Discriminación
- Sim2Real
- Confusión Nominal
Hay mucha información disponible sobre sesgo y discriminación, pero poca sobre Sim2Real y nada sobre Confusión Nominal, ya que es un término nuevo.
¿Qué quiere decir sim2real?
Obtener datos para un proyecto de Machine Learning puede ser tedioso, complicado y caro, de modo que muchas veces se aprovecha la inteligencia artificial generativa para crear artificialmente datos que van a servir de entrenamiento y testing. Por ejemplo: en un sistema para activar una bocina ante ciertas acciones humanas, se le pide a OpenAI Dall-e 200 imagenes con calidad fotográfica y así es entrenado el modelo.
Lo mismo se puede hacer con sonidos, videos y datos en general. Muchas veces estos datos sintéticos son indistinguibles de los datos reales y generan una recursión peligrosa de efectos impredecibles: IA siendo usada para generar datos de entrenamiento y testing de la IA en sistemas que luego van a tener impacto en las personas.
¿Qué quiere decir confusión nominal?
La confusión nominal es asumir que un sistema de Inteligencia Artificial va a ser necesariamente inteligente por llamarse así.
Por eso se ven titulares del tipo “Una inteligencia artificial dice que…” sugiriendo que cualquier output merece ser atendido ya que es inteligente transitivamente.
Desde el punto de vista de un proyecto de Machine Learning, un mal planteo inicial, datos con ruido, sub o sobrerepresentados, van a generar un sistema nada inteligente.
Más sobre confusión nominal y sim2real en la charla “Inteligencia artificial y creación de dispositivos con Machine Learning”, minuto 09.20