Un tropo común que cruza la ciencia ficción y los géneros misteriosos es un detective humano emparejado con un robot. Pensar Yo, robotbasado en las novelas de Isaac Asimov, o Mac y quesoun espectáculo dentro de un espectáculo familiar para Amigos fanáticos. Para nuestros propósitos, considere una serie de televisión de corta duración llamada Holmes y Yoyoen el que un detective y su socio de Android intentan resolver crímenes a pesar de los constantes mal funcionamiento de Yoyo. Tomemos de este ejemplo el principio, es elemental, que no puede asumir la perfección de las herramientas de detección automatizadas. Tenga en cuenta ese principio al hacer o ver afirmaciones de que una herramienta puede detectar de manera confiable si el contenido está generado por IA.
En publicaciones anteriores, hemos identificado preocupaciones sobre el uso engañoso de herramientas de IA generativas que permiten Deepfakes y clonación de voz y para manipulación por chatbot. Los investigadores y las empresas han estado trabajando durante años en medios tecnológicos para identificar imágenes, videos, audio o texto como genuinos, alterados o generados. Este trabajo incluye el desarrollo de herramientas que puedan agregar algo al contenido. antes se disemina, como herramientas de autenticación para contenido genuino y formas de "marca de agua" generado contenido.
Otro método para separar lo real del falso es usar herramientas que se aplican al contenido. después diseminación. En Informe 2022 al Congresodiscutimos algunos esfuerzos de investigación muy valiosos para desarrollar tales herramientas de detección para los defectos profundos, al tiempo que exploran sus limitaciones duraderas. Estos esfuerzos están en curso con respecto a la clonación de voz y el texto generado también, sin embargo, Como notamos recientementedetectar este último es un desafío particular.
Con la proliferación de herramientas de IA generativas ampliamente disponibles, ha surgido un aumento proporcional en las herramientas de detección comercializadas como capaces de identificar el contenido generado. Algunas de estas herramientas pueden funcionar mejor que otras. Algunos son gratuitos y otros le cobran por el servicio. Y algunas de las afirmaciones de marketing asistentes son más fuertes que otras, en algunos casos quizás demasiado fuerte para la ciencia tras ellos. Estas herramientas pueden tener otros defectos, como no poder detectar imágenes o videos que una herramienta de IA generativa solo ha editado ligeramente, o un inclinación Contra que no hablan inglés al intentar detectar el texto generado.
Esto es qué deducir:
- Si está vendiendo una herramienta que pretende detectar contenido generativo de IA, asegúrese de que sus reclamos reflejen con precisión las habilidades y limitaciones de la herramienta. Volver a nuestro tropo, para Jinete de caballero Fans, eso significa que sus afirmaciones deberían estar más en línea con Kitt y menos que con su mal gemelo, Karr.
- Si está interesado en las herramientas para ayudar a detectar si está obteniendo la buena sopa de tortuga o simplemente el simulacro, tome reclamos sobre esas herramientas con algunos megabytes de sal. El exceso de confianza de que ha captado todas las falsificaciones y no ha perdido ninguna puede lastimarlo tanto a usted como a aquellos que pueden ser acusados injustamente, incluidos los solicitantes de empleo y los estudiantes.
¿No sería bueno vivir en una tierra tecnodos soluciable en la que un dispositivo simple podría manejar fácil y efectivamente todos los problemas de IA difíciles de nuestros días? No hay tanta suerte. Sin embargo, nuestra agencia puede abordar algunos de estos problemas utilizando leyes del mundo real en los libros, y esas leyes se aplican a las reclamaciones de marketing hechas para herramientas de detección.
Buscando más publicaciones en el Ai y tu negocio Serie de blogs?
