Política y regulación
Clarifai elimina 3 millones de fotos tras un acuerdo de la FTC con OkCupid
Clarifai eliminó 3 millones de fotos obtenidas de OkCupid para el entrenamiento de IA de reconocimiento facial tras un acuerdo con la FTC sobre el intercambio engañoso de datos y la obstrucción de la investigación.
La plataforma de inteligencia artificial Clarifai ha eliminado 3 millones de fotos y los modelos de IA entrenados con esos datos. La eliminación sigue a un acuerdo entre la Comisión Federal de Comercio (FTC, regulador de Estados Unidos) y la aplicación de citas OkCupid, junto con su empresa matriz, Match Group. Según reportes de Reuters, Clarifai obtuvo las fotos de los usuarios de OkCupid para entrenar su IA de reconocimiento facial. El acuerdo concluye una disputa de varios años sobre el intercambio no autorizado de datos.
El intercambio de datos comenzó en 2014, cuando Clarifai pidió a OkCupid compartir datos de usuarios. En ese momento, los ejecutivos de OkCupid habían invertido en Clarifai. Correos electrónicos internos de 2014 revelan que el fundador y CEO de Clarifai, Matthew Zeiler, buscó activamente los datos del cofundador de OkCupid, Maxwell Krohn. «Estamos recopilando datos ahora y acabamos de darnos cuenta de que OkCupid debe tener una CANTIDAD ENORME de datos increíbles para esto», escribió Zeiler, según documentos judiciales revisados por Reuters. Posteriormente, la aplicación de citas proporcionó a la startup de IA las fotos subidas por los usuarios, junto con datos demográficos y de ubicación. Según las propias políticas de privacidad de OkCupid, este comportamiento de intercambio de datos debería haber estado prohibido.
Aunque el intercambio de datos parece haber ocurrido hace 12 años, la FTC no abrió una investigación hasta 2019. El regulador inició la investigación después de que surgiera un informe con sede en Nueva York, el cual mencionaba que Clarifai había utilizado imágenes de OkCupid para crear una herramienta de IA que podría estimar la edad, el sexo y la raza de una persona basándose en su rostro. La FTC y OkCupid llegaron a un acuerdo en la demanda resultante el mes pasado. En el momento del acuerdo, OkCupid y Match Group no admitieron las acusaciones, pero la confirmación de la eliminación por parte de Clarifai implica que la empresa de IA efectivamente accedió a las fotos.
La FTC alegó que OkCupid y Match Group «engañaron a los usuarios al violar sus propias políticas de privacidad» al compartir los datos. El regulador también afirmó que Match Group y OkCupid «ocultaron deliberadamente este comportamiento e intentaron obstruir su investigación» desde 2014. Aunque la FTC no puede multar a las empresas por esta primera infracción, la agencia declaró que OkCupid y Match Group tienen prohibido permanentemente tergiversar o ayudar a otros a tergiversar la naturaleza de su recopilación e intercambio de datos.
Por qué importa
El acuerdo de la FTC destaca el creciente escrutinio regulatorio sobre las prácticas de intercambio de datos entre empresas y desarrolladores de IA, específicamente con respecto al uso de fotos subidas por usuarios para el entrenamiento de reconocimiento facial sin el consentimiento adecuado.