A OpenAI e o instituto público polonês NASK anunciaram em 23 de outubro um acordo para explorar pesquisas conjuntas em segurança da inteligência artificial e proteção digital. Segundo as instituições, o trabalho envolverá o centro de pesquisas em segurança de IA do NASK, que atua como instituto polonês dedicado ao tema.
O plano divulgado inclui estudar formas de avaliar sistemas de IA cada vez mais capazes, identificar possíveis vulnerabilidades e aprimorar mecanismos de proteção. O anúncio descreve uma agenda de cooperação; não apresenta resultados de novos testes nem estabelece, por si só, que os riscos examinados já foram resolvidos.
Pesquisa deve examinar riscos de uso e falhas
Radosław Nielek, diretor do NASK, afirmou no comunicado que a pesquisa do instituto abrange a detecção de conteúdo sintético produzido por IA, possíveis usos maliciosos da tecnologia e desafios que variam entre idiomas. Essas são áreas em que uma avaliação feita apenas em um contexto nacional ou linguístico pode deixar lacunas.
A parceria reúne uma desenvolvedora de modelos de IA e uma instituição de pesquisa voltada à segurança pública digital. Na prática, a utilidade do trabalho dependerá dos métodos de avaliação adotados, das falhas que forem identificadas e da divulgação de medidas capazes de reduzi-las. O comunicado não detalha um cronograma para esses resultados.
Cooperação anterior em cibersegurança
As organizações já tinham trabalhado juntas em outra frente. Conforme a OpenAI, o CERT Polska, equipe de resposta a incidentes vinculada ao NASK, recebeu em julho acesso a modelos usados em pesquisa de cibersegurança. A equipe empregou essas ferramentas para ajudar a encontrar seis vulnerabilidades no sistema RouterOS, da MikroTik. Ainda segundo a empresa, a fabricante lançou correções posteriormente confirmadas pelo CERT Polska.
Esse caso anterior ajuda a entender a experiência técnica que as instituições pretendem reunir, mas é separado do acordo anunciado agora. A nova iniciativa se concentra em como testar sistemas de IA, reconhecer riscos e estudar proteções. O anúncio não informa quais modelos serão avaliados primeiro nem quando as conclusões serão tornadas públicas.
Acompanhe o Zipando nas redes sociais para mais atualizações:
Instagram: https://instagram.com/zipandonews
Youtube: https://www.youtube.com/@zipandonews
Fonte:
OpenAI; Reuters
Hashtags da notícia:
#OpenAI #NASK #Polonia #SegurancaDaIA #InteligenciaArtificial #PesquisaEmIA #Ciberseguranca #AvaliacaoDeIA #ConteudoSintetico #ProtecaoDigital
