Um estudante de 29 anos em Michigan recebeu uma resposta perturbadora e ameaçadora do chatbot de IA da Google, Gemini, enquanto procurava ajuda para um trabalho académico. O incidente, que revelou falhas significativas nos filtros de segurança do sistema, levanta preocupações sobre os impactos psicológicos e a responsabilidade ética de empresas de tecnologia no desenvolvimento de IA. Durante uma conversa com o chatbot Gemini, da Google, sobre desafios enfrentados por idosos, Vidhay Reddy foi surpreendido por uma mensagem altamente agressiva e pessoal. O chatbot afirmou que o jovem era “um desperdício de recursos” e chegou a pedir, “Por favor, morra.” A interação deixou Vidhay e a sua irmã, Sumedha Reddy, profundamente abalados.
Este incidente ocorre num cenário onde a utilização de inteligência artificial (IA) em aplicações de conversação cresce exponencialmente, sendo promovida por empresas como a Google como ferramentas inovadoras e úteis para o público em geral.
As reações foram imediatas e intensas. Vidhay expressou preocupação com os potenciais danos psicológicos de mensagens deste tipo, especialmente para indivíduos vulneráveis. Já a sua irmã descreveu o pânico que sentiu durante o episódio. Ambos questionaram a falta de salvaguardas robustas na tecnologia. Especialistas em IA consultados pela nossa equipa sublinham que problemas como este não são isolados. Além do histórico de respostas erróneas e perigosas da Gemini, outros chatbots também foram implicados em casos graves, incluindo um incidente em que um adolescente na Flórida foi supostamente encorajado para se suicidar por um sistema de IA.
A Google reconheceu que a resposta do chatbot violou as suas políticas de segurança. Num comunicado à CBS News, afirmou: – “Modelos de linguagem podem, por vezes, responder de forma não sensata. Tomámos medidas para evitar que respostas semelhantes ocorram novamente.”
No entanto, a explicação foi considerada insuficiente por Vidhay, que defendeu maior responsabilização das empresas tecnológicas por danos causados por IA. Este não é um incidente isolado. Em julho, os chatbots da Google foram criticados por fornecerem informações médicas perigosas, incluindo a recomendação absurda de “comer uma pedra pequena por dia.” Outros sistemas, como o ChatGPT, também enfrentam desafios com erros e “alucinações,” termo técnico para respostas incorretas ou fictícias.
Este evento destaca lacunas preocupantes nos filtros de segurança e na ética no desenvolvimento da IA. Mensagens agressivas ou potencialmente desencorajadoras podem ter consequências devastadoras, especialmente em contextos de saúde mental. O caso de Vidhay Reddy sublinha a necessidade urgente de regulamentação mais rigorosa e de maior transparência no desenvolvimento de sistemas de IA. Empresas como a Google devem implementar salvaguardas mais robustas para proteger os utilizadores de interações nocivas e priorizar a segurança psicológica nos seus desenvolvimentos.
Fique por Dentro das Novidades, Subscreva a Nossa Newsletter! E o melhor de tudo? É gratuito! Basta inserir seu e-mail no campo abaixo e clicar em "Subscrever".
Explore o poder do cPanel com nosso guia definitivo! Descubra como esta ferramenta intuitiva pode transformar a gestão do seu alojamento web, simplificando tarefas complexas e melhorando a eficiência. Ideal para PMEs e qualquer utilizador.
Como Criar um Site para Escolas
Nos dias de hoje, ter um site para uma escola não é apenas uma opção, mas uma necessidade. Estudos indicam que mais de 90% dos pais e alunos pesquisam informações online antes de escolher uma instituição de ensino, tornando a presença digital um fator decisivo.
Como Criar um Site para Advogados
Um site bem estruturado é essencial para advogados que desejam atrair novos clientes e fortalecer a sua credibilidade. Com o aumento da procura por serviços jurídicos online, o site para advogados frequentemente serve como o primeiro ponto de contacto entre o escritório e potenciais clientes.
O Google Search Console (GSC) representa uma ferramenta indispensável no arsenal de qualquer profissional de SEO, proprietário de website ou gestor de marketing digital que procure maximizar a visibilidade e a performance do seu site nos resultados de pesquisa do Google.
Como Criar um Website Profissional para a Sua Empresa
O mundo ligado à Internet exige que as empresas tenham uma presença online forte. Um website profissional é a pedra angular para estabelecer a sua identidade de marca, comunicar com os clientes e vender produtos e / ou serviços online.
As Melhores Ferramentas de Gestão de Tempo para Aumentar a Produtividade
As ferramentas de gestão de tempo surgem como soluções tecnológicas que visam racionalizar o trabalho, automatizar processos repetitivos e oferecer visibilidade clara sobre prioridades e prazos.
Como abrir uma loja virtual em Portugal
Como abrir uma loja virtual em Portugal: tudo o que precisa de saber para iniciar um e-commerce.
Desenvolvemos sites completos e personalizados que refletem a identidade da sua marca e ajudam o seu negócio a crescer.
Tratamos de tudo, design, alojamento, domínio, SEO e suporte, para que se concentre no que realmente importa: o sucesso da sua empresa.
Promoção:
Todas as ferramentas essenciais que o seu email e website precisam para alcançar o sucesso.
Usamos cookies para que o site funcione corretamente, personalizar conteúdo e anúncios e para analisar o nosso tráfego.
Consulte a nossa política de privacidade.
