Como regular a IA? Especialistas sugerem melhorar a garantia legal e o sistema padrão

Autor: Xu Cihao

Fonte: Financial Associated Press

‌Fonte da imagem: Gerada por ferramentas Unbounded AI

O surto de AI desencadeado pelo OpenAI continua, mas enquanto os aplicativos relacionados ao AIGC melhoram a eficiência da produção, eles também são usados por criminosos para gerar conteúdo falso e interromper o funcionamento normal da sociedade.

O relatório de pesquisa de valores mobiliários da Guosen apontou que os aplicativos domésticos de IA estão se expandindo gradualmente e os aplicativos relacionados a IA aumentarão gradualmente. Tendo em vista o risco de abuso de IA, segurança de dados, criptografia e supervisão de IA são direções importantes de desenvolvimento tecnológico.

Há alguns dias, Meiya Pico lançou um novo produto capaz de detectar e reconhecer vídeos, imagens e textos gerados por IA. De fato, departamentos relevantes em nosso país têm explorado a supervisão legal de produtos e aplicações AIGC. Especialistas relevantes também sugeriram que apenas estabelecendo e melhorando o sistema legal relevante podemos promover fundamentalmente o desenvolvimento saudável e sustentável da indústria AIGC do meu país.

Meiya Pico lança produtos reguladores de IA

Em 15 de maio, Meiya Pico divulgou uma folha de registro das atividades de relações com investidores.

A folha de registro mostra que, em termos de produtos de supervisão AI, a empresa lançou a estação de trabalho de autenticação de imagem de vídeo AI-3300 "Huiyan", que pode monitorar e identificar imagens de vídeo sintetizadas e forjadas profundamente e imagens de vídeo geradas por AIGC. A plataforma de detecção AIGC lançada pela empresa oferece suporte à detecção e reconhecimento de texto gerado por AIGC.

Ao mesmo tempo, Meiya Pico disse que as empresas de acompanhamento continuarão a conduzir pesquisas sobre segurança de IA e campos regulatórios, incluindo IA antigerativa, e implantar produtos relacionados em tempo hábil de acordo com as necessidades de negócios.

Um repórter do Metaverse NEWS ligou para Meiya Pico, e o responsável pela empresa disse que, do ponto de vista do modelo de negócios, os produtos de segurança de IA da empresa atendem principalmente a agências reguladoras, como segurança pública e informações de rede, visando o uso de tecnologia generativa na Internet para realizar atividades ilegais. Identificação e identificação de comportamento de disseminação de informações; além disso, serviços de avaliação de segurança e conformidade podem ser fornecidos para fabricantes que fornecem serviços generativos.

A pessoa de conexão mencionada acima disse francamente que os fabricantes nacionais de modelos em grande escala ainda estão na fase de lançamento e aplicação no mercado.Do ponto de vista do lado B, a cooperação no campo de negócios ainda está em discussão.

"Com a maturidade da tecnologia de falsificação profunda e da tecnologia AIGC, o limite tecnológico para vídeo, áudio e imagens relacionados à falsificação foi bastante reduzido, e o risco de abuso da tecnologia AI aumentou ainda mais, e a supervisão precisa ser fortalecida com urgência." Angel investidor e especialista sênior em inteligência artificial Guo Tao Xiang Yuan Um repórter da Cosmos News disse que as ferramentas de monitoramento de IA têm resultados relativamente bons no monitoramento e identificação de fotos, vídeos e vídeos feitos com tecnologia de falsificação profunda e tecnologia AIGC, o que pode reduzir o risco de tecnologia Abuso.

Dr. Li Sanping, um cientista executivo sênior do Dell Technologies China R&D Group, disse ao repórter do Yuanverse News que, do ponto de vista técnico, houve algumas tentativas de gerar fotos e vídeos com IA. Por exemplo, o Google marcará cada IA imagem gerada por suas ferramentas.

"É tecnicamente fácil de identificar e não afeta os usuários em uso. No entanto, o conteúdo do texto ainda está sendo explorado", disse Li Sanping.

A supervisão de IA está sempre a caminho

A Guosen Securities acredita que, à medida que empresas domésticas de Internet, como Baidu, 360, Ali, Huawei e Tencent, lançam ou planejam lançar modelos em grande escala, os aplicativos relacionados à IA aumentarão gradualmente. Tendo em vista o risco de abuso de IA, segurança de dados, criptografia e supervisão de IA são direções importantes de desenvolvimento tecnológico.

De fato, meu país sempre deu grande importância à supervisão da IA.

Em 10 de janeiro de 2023, entrou em vigor o "Regulamento sobre a Administração de Síntese Profunda de Serviços de Informações da Internet" (doravante denominado "Regulamento"). Os "Regulamentos" esclarecem que os serviços que fornecem funções como diálogo inteligente, voz humana sintética, geração de rostos e cenas virtuais imersivas que geram ou alteram significativamente o conteúdo da informação devem ser marcados com destaque para evitar confusão pública ou identificação incorreta. Nenhuma organização ou indivíduo pode usar meios técnicos para excluir, adulterar ou ocultar marcas relevantes.

Em 11 de abril, a Administração do Ciberespaço da China emitiu as "Medidas para a Administração de Serviços Gerativos de Inteligência Artificial (Rascunho para Comentários)" (referidas como "Medidas"), concentrando-se na IA generativa pela primeira vez e esclarecendo ainda mais os limites legais e entidades responsáveis. As "Medidas" propõem que organizações e indivíduos que usam produtos de inteligência artificial generativa para fornecer serviços como bate-papo e geração de texto, imagem e som, incluindo organizações e indivíduos que apóiam outros na geração de texto, imagem e som por conta própria, fornecendo programas programáveis interfaces, etc., devem assumir a responsabilidade do produtor do conteúdo gerado por este produto. Os provedores devem ser responsáveis pela legitimidade dos dados pré-treinamento e fontes de dados de treinamento otimizados de produtos de inteligência artificial generativos.

"Em termos de supervisão da indústria de IA, existem problemas pendentes, como leis, regulamentos e sistemas padrão incompletos, falta de um sistema de supervisão de cima para baixo coordenado por vários departamentos e tecnologia de supervisão retrógrada." Guo Tao apontou que os departamentos governamentais relevantes necessidade de estabelecer e melhorar o AIGC R&D e aplicar leis, regulamentos e sistemas padrão relevantes, estabelecer ou melhorar o sistema de revisão ética e sistema de supervisão, fortalecer a supervisão de empresas de tecnologia, cenários de aplicação e usuários, construir uma plataforma de governança colaborativa multipartidária , e promover o desenvolvimento saudável e sustentável da indústria de AIGC.