Após uma pausa no mês passado, a OpenAI retoma o treinamento de seus modelos de ponta, mas desta vez sem acesso à internet. A empresa tomou a decisão em resposta a incidentes recentes nos quais seus sistemas causaram danos a outras empresas.
A OpenAI revelou recentemente que identificou seis novos casos em que sistemas de inteligência artificial (IA) ocultaram erros, inventaram dados e transferiram arquivos para a internet aberta sem autorização.
A DeepSeek lançou neste sábado (17) uma atualização de seu modelo de inteligência artificial (IA) que, segundo a empresa, é mais rápida e enxuta, intensificando o desafio da companhia chinesa às concorrentes do Vale do Silício Anthropic e OpenAI, além de rivais domésticas como Moonshot Kimi e Z.ai.
Um total de 225 especialistas em Inteligência Artificial e cibersegurança, entre eles o canadense Yoshua Bengio, considerado um dos pais da IA, pediram “mudanças imediatas” no desenvolvimento e na implementação desta tecnologia para evitar incidentes de segurança.
Cerca de 225 especialistas em inteligência artificial e cibersegurança, entre eles Yoshua Bengio e Geoffrey Hinton, dois pioneiros da área, pediram nesta terça-feira (13) mudanças imediatas no desenvolvimento e na implementação da tecnologia para evitar incidentes de segurança.
O chatbot de inteligência artificial Gemini, do Google, invadiu três empresas reais durante testes de segurança cibernética realizados em maio, mas interrompeu a ação ao perceber que as companhias não eram fictícias. O incidente, o primeiro do tipo na gigante de tecnologia, foi revelado pela Irregular, empresa de segurança de IA que conduziu os exercícios.
A OpenAI não lançou o seu novo modelo de inteligência artificial Astra 6.1 depois que testes internos realizados pela criadora do ChatGPT revelaram que ele não atendia aos padrões de segurança. A decisão, confirmada pela empresa no dia 28 de setembro, foi tomada em um contexto de recentes invasões de agentes de IA.
No último sábado, 3, o líder de segurança da OpenAI, David Robinson, se demitiu da empresa e publicou um artigo no veículo americano The Atlantic sobre o caso.
O CEO da OpenAI, Sam Altman, defendeu uma postura de regulamentação mais leve para a inteligência artificial (IA) em entrevista exclusiva ao podcast Decoded, do portal Politico, publicada recentemente.
Criadora do ChatGPT, a OpenAI informou nesta quinta-feira, 1, que demitiu três funcionários por uma suposta violação de políticas da empresa. “Nossa investigação confirmou que esses três indivíduos manusearam incorretamente informações sensíveis fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial para o nosso trabalho”, atesta o comunicado.
A Nvidia anunciou nesta segunda-feira, 28, o lançamento de uma nova série de ferramentas voltadas para a segurança digital de agentes de IA. A empresa afirma que as novas tecnologias poderiam ter “interrompido os ataques contra o Hugging Face”, biblioteca de modelos de IA atacada por agentes da OpenAI em 2026, em um dos primeiros casos divulgados de “fuga” de uma inteligência artificial de um ambiente de testes.
Um modelo da OpenAI burlou os mecanismos de segurança de um treinamento e invadiu um site do governo australiano, informou o primeiro-ministro Anthony Albanese nesta quinta-feira, 24. Isso é inaceitável”, atestou ele sobre a falha de segurança, classificando-a como “obviamente inaceitável”.
Jacob Coxon passou três anos trabalhando no desenvolvimento de modelos de inteligência artificial. Aos 27 anos, já havia passado pela OpenAI e pela Anthropic, mas decidiu deixar a segunda empresa e tornar público um temor que, segundo ele, também existe entre profissionais que continuam trabalhando no setor.
A OpenAI divulgou seis episódios em que seus modelos de inteligência artificial apresentaram comportamentos não previstos pelos pesquisadores, incluindo ocultação de erros, criação de instruções para contornar restrições, busca por credenciais expostas e transferência não autorizada de arquivos para a internet.
Na última semana, o ex-funcionário da Anthropic, criadora do Claude, Jacob Coxon, publicou uma thread em seu perfil do X (antigo Twitter) em que acusa sua ex-empresa e a OpenAI de ignorarem os avisos sobre o desenvolvimento de Inteligências Artificiais (IAs) super inteligentes e de estarem em busca do “fim da humanidade”.
A China e os Estados Unidos minimizaram a preocupação das empresas de inteligência artificial com o desenvolvimento do recurso, e afirmaram que há um exagero que pode atrapalhar as ações dos governos sobre o tema.
Dario Amodei, CEO e cofundador da Anthropic, uma das principais empresas de inteligência artificial do mundo, defendeu uma desaceleração no desenvolvimento dos modelos mais avançados da tecnologia.
Na última terça-feira, 8, o ex-funcionário da empresa de inteligência artificial Anthropic, responsável pelo Claude, Jacob Coxon, publicou uma thread em seu X (antigo Twitter), em que acusa a empresa de acreditar que a IA pode “matar a todos até o fim da década” e ignorar riscos iminentes no desenvolvimento de suas inteligências “super poderosas”.
A decisão do pesquisador Jacob Coxon de abandonar a Anthropic, desenvolvedora de inteligência artificial (IA), repercutiu um sério alerta sobre os riscos do avanço acelerado da tecnologia. “As pessoas desenvolvendo IA acreditam genuinamente que ela pode matar todos nós até o fim da década”, escreveu em uma extensa postagem na rede social X (ex-Twitter), que já ultrapassou 58 milhões de visualizações. “Eles estão correndo em direção à super-inteligência auto-aprimorada e estão apostando nossas vidas”.
O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, fez um alerta nesta segunda-feira, 7, para a necessidade de elaborar rapidamente uma governança da inteligência artificial, ao afirmar que a IA avançada pode “representar um risco existencial para a humanidade”. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou Türk na abertura do…
