El ensayo de IA derrumbó el precio de las acciones de la Universidad de Ciencia y Tecnología de Xunfei, y la tecnología "mágica" contraatacó a las empresas de tecnología.

Cada vez hay más "humor negro" de IA.

Escrito por: Luoluo

En la tarde del 24 de mayo, el precio de las acciones de la compañía de acciones A iFLYTEK repentinamente salió de una forma de V profunda y se desplomó en un 8%. HKUST Xunfei respondió que la caída del precio de las acciones fue causada por una IA generativa que escribió un ensayo falso y que el riesgo rumoreado era una noticia falsa.

Un "pequeño ensayo" que circuló en Internet rumoreaba que "HKUST Xunfei estuvo expuesto a recopilar datos de privacidad del usuario para estudiar inteligencia artificial y causó controversia", que luego los internautas demostraron que fue escrito por AI y publicado por los bloggers de Weibo; HKUST Xunfei es incluida en la lista de entidades a las que se les prohíbe usar componentes o software estadounidenses”, de hecho, HKUST Xunfei estaba en la lista en octubre de 2019.

Nacía otro "humor negro" en la era de la IA: la "magia" creada por las empresas tecnológicas comenzaba a atacar a las empresas tecnológicas. Afortunadamente, la IA que escribe el ensayo no es el "Spark Cognitive Model" que acaba de lanzar iFLYTEK, de lo contrario el humor sería más oscuro.

De hecho, esta escena se escenificó en Estados Unidos hace dos días: cuando se viralizó en Twitter una imagen de la explosión del Pentágono en Washington, tanto el Dow Jones como el S&P 500 de la bolsa estadounidense cayeron por un corto tiempo. imagen generada por IA.

Cuando las empresas de tecnología lanzaron la IA generativa para todos, comenzó la "revolución de la productividad", y también comenzó la reacción violenta.

** HKUST XFLYTEK precio de las acciones flash crash ¿Ensayo de IA hecho un fantasma? **

Alrededor de las 13:00 horas del 24 de mayo, el precio de las acciones de HKUST Xunfei se desplomó de 58,3 yuanes a 53,5 yuanes en menos de media hora, una caída a corto plazo del 8 %, y se recuperó a alrededor de 56,5 yuanes 15 minutos después.

Después de que el precio de las acciones se derrumbara, HKUST Xunfei respondió a Red Star News y otros medios, diciendo que la caída del precio de las acciones fue causada por una IA generativa que escribió un ensayo falso, que no ocurrieron incidentes relacionados en la empresa y que el riesgo rumoreado era falso. noticias.

Pronto, los internautas comenzaron a "investigar" en línea, queriendo ver quién escribió la "pequeña composición" que golpeó el precio de las acciones de HKUST Xunfei.

Varios blogueros de Weibo publicaron imágenes que decían que un usuario de Weibo distribuyó un artículo a las 13:44 el 24 de mayo, diciendo: "Se sospechaba que HKUST Xunfei recopilaba una gran cantidad de datos de privacidad de los usuarios y los usaba para la investigación de inteligencia artificial... .」

Fuente de noticias falsas recogida por internautas

En la actualidad, la cuenta de Weibo que difundió la noticia ya no se encuentra. Al buscar la información anterior de la cuenta desde el motor de búsqueda, se muestra como "Según la configuración del blogger, este contenido no es visible". El número de seguidores de esta cuenta superó los 660.000 el año pasado.

Otro internauta encontró la fuente sospechosa de las noticias en Weibo: "Los rumores salvajes en el mercado resultaron ser generados por Wenxin Yiyan". sobre HKUST Xunfei". "Carta de advertencia sobre riesgos importantes", cuyo párrafo completo es exactamente igual a la información rumoreada.

Hay más de una "pequeña composición" de HKUST Xunfei en Internet, y la otra también agrega una fuente como "algunos medios extranjeros citan a personas familiarizadas con el asunto", diciendo que Estados Unidos está considerando enviar HKUST Xunfei , Meiya Pico, etc. Se agregaron a la "Lista de entidades", que les prohíbe usar componentes o software estadounidenses.

La correduría Guolian Overseas publicó un artículo para refutar los rumores: HKUST Xunfei se incluyó en la lista de entidades en octubre de 2019 y no ha tenido un impacto importante en las operaciones diarias de la empresa.

Los internautas y las casas de bolsa presentaron evidencia una tras otra y se unieron a la fila para tomar medidas enérgicas contra los rumores del mercado. HKUST Xunfei también declaró que el departamento legal de la empresa ha obtenido evidencia de la información relevante. Las personas que comen melones solo pueden esperar los resultados del seguimiento, con la esperanza de que el público vea cómo la IA generativa está afectando los precios de las acciones de las empresas de tecnología.

A principios de mayo de este año, HKUST Xunfei también lanzó un producto de inteligencia artificial generativa "Xinghuo Cognitive Model**"**, afirmando que su propio modelo grande superaría a ChatGPT en términos de capacidad china antes del 24 de octubre de este año. La habilidad en inglés es equivalente a eso. Como resultado, HKUST Xunfei, que estaba ocupado superando, fue atacado por primera vez por la IA generativa.

Sufrí una pérdida, y el creador de "Spark" puede aprender de la experiencia y crear un cortafuegos de rumores. Afortunadamente, la "Pequeña Composición" no mostró que fuera de "Xinghuo", de lo contrario, este asunto se habría vuelto aún más irónico.

“** Explosión del Pentágono” imagen falsa sacude las acciones de EE.UU.**

Coincidentemente, hace solo 2 días, el mercado de valores de EE. UU. también cayó por las noticias falsas generadas por la IA.

Del 22 al 23 de mayo, hora local, se viralizó en Twitter un mensaje gráfico de "una gran explosión cerca del Pentágono en Washington DC", en el que aparecía una gran nube de humo cerca del Cuartel General de la Defensa de Estados Unidos. El contenido gráfico es de la cuenta verificada @Bloombergfeed.

Imagen falsa del Pentágono generada por IA

En la mañana del 23 de mayo, este gráfico se había extendido por todas partes, y el mercado de valores de EE. UU. solo tardó unos minutos en fluctuar brevemente. En la mañana del mismo día, el índice Dow Jones cayó 80 puntos entre las 10:06 y las 10:10; el índice S&P 500 cayó un 0,26% en 3 minutos entre las 10:06 y las 10:09. Sin embargo, los dos principales índices cerraron en positivo tras 2 o 3 minutos de caída.

La noticia también alertó directamente al departamento de bomberos y al departamento de policía de Arlington. A las 10:27 a.m. de ese día, el Departamento de Bomberos de Arlington tuiteó que él y la Agencia de Protección de la Fuerza del Pentágono estaban "al tanto de los informes que circulaban en línea en las redes sociales sobre una explosión cerca del Pentágono". El Departamento de Policía de Arlington rápidamente desestimó los rumores. y el texto son falsos, la declaración decía: "No hubo explosión ni accidente en o cerca de la reserva del Pentágono, y no hay peligro o daño inmediato para el público".

Pronto, varios medios de comunicación también comenzaron a tomar medidas enérgicas contra las falsificaciones: esta imagen fue generada por un software de IA. Hany Farid, profesor de la Universidad de California, también señaló a los medios estadounidenses: "Esta imagen muestra signos típicos de síntesis de inteligencia artificial: errores estructurales en edificios y cercas".

Desde entonces, Twitter suspendió la cuenta @Bloombergfeed que publicó la imagen. Pero la gente todavía no sabe de qué software de generación de inteligencia artificial proviene esta imagen.

Teresa Payton, exdirectora de información de la administración de George W. Bush, dijo en una entrevista al respecto que algunas de las formas de detectar la autenticidad de una imagen son hacer una búsqueda inversa en Google, comparando cuándo se publicó la imagen por primera vez. publicado con él Es hora de comenzar a difundir, y tenga en cuenta si puede detectar una marca de agua de los medios de comunicación en la imagen, "Esta vez no estaba en la foto falsa del Pentágono".

Payton reconoció que con la tecnología actual, "las mentiras se difunden más rápido que la verdad". También le recordó al público que "mientras las organizaciones gubernamentales tratan de abordar esto, como ciudadanos vamos a tener que protegernos hasta cierto punto, porque los gobiernos y las leyes toman mucho tiempo para ponerse al día", dijo, "por ejemplo, cuando vea algo así, antes de tomar decisiones financieras importantes, mire los medios de comunicación y vea lo que están cubriendo".

Pero la ironía es que realmente hay medios de comunicación en la cadena de difusión de las noticias falsas del "bombardeo del Pentágono". Varias cuentas de Twitter que compartieron la imagen presentaban a RT, un medio de comunicación estatal ruso con 3 millones de seguidores. Posteriormente, la cuenta de medios eliminó el tweet reenviado.

Independientemente de China o países extranjeros, la IA generativa ha perturbado la realidad impulsada por seres humanos. Hacer rumores para calumniar y participar en la violencia cibernética, imitar voces y sombras para engañar al dinero, el incidente de abuso de IA estuvo en la parte superior de la lista de búsqueda caliente de Weibo hace dos días y ha comenzado a afectar el mercado financiero. en los últimos dos días.

La "Caja de Pandora" que han abierto las empresas tecnológicas no da señales de cerrarse. Ahora, la "magia" está comenzando a reaccionar contra quien la creó, ¿cómo van a lidiar con eso?