Por que funcionários estão ‘contrabandeando’ apps de IA para o trabalho

Publicado em 06/02/2025 17: 46/atualizado em 02/02/2025 17:49

A IA pode dar a você vantagem dos trabalhadores mais jovens, diz Simon Haighton -Williams – (Crédito: Micaela Karina)

“É mais fácil ser perdoado do que obter permissão”, diz John, engenheiro de software de uma empresa de tecnologia de serviços financeiros. “Apenas vá em frente. E se você tiver problemas mais tarde, resolva.”

Ele é uma das muitas pessoas que estão usando suas próprias ferramentas de Inteligência Artificial (AI) No trabalho, sem a permissão da sua divisão de tecnologia da informação (TI) (e é por isso que não estamos usando o nome completo de John).

De acordo com Uma pesquisa por software AGMetade dos trabalhadores do conhecimento usam Ferramentas pessoais de IA.

A pesquisa define trabalhadores do conhecimento como “aqueles que trabalham principalmente em uma mesa ou computador”.

Para alguns, é porque sua equipe de TI não oferece ferramentas de IA, enquanto outros disseram que queriam sua própria escolha de ferramentas.

A empresa de John fornece o GitHub Copilot para o desenvolvimento de software de suporte de IA, mas prefere o cursor.

“É em grande parte uma ferramenta superestimada para preenchimento automático, mas é muito bom”, diz ele. “Ele completa 15 linhas de cada vez e você olha e diz: ‘Sim, é isso que eu teria digitado’.” Que libera você.

Seu uso não autorizado não está violando uma política, é apenas mais fácil do que arriscar um longo processo de aprovação, diz ele. “Sou preguiçoso e muito pago para cobrir as despesas”, acrescenta.

John recomenda que as empresas permaneçam flexíveis em suas opções de ferramentas de IA. “Eu disse às pessoas no trabalho para não renovar as licenças da equipe por um ano por vez, porque em três meses todo o cenário muda”, diz ele. “Todo mundo vai querer fazer algo diferente e se sentir preso no custo irrecuperável”.

O Lançamento recente de DeepseekUm modelo de IA disponível gratuitamente na China provavelmente expandirá apenas as opções de IA.

Peter (que também trocou sua identidade) é gerente de produto em uma empresa de armazenamento de dados, que oferece a seus funcionários Chatbot Google Gemini AI. As ferramentas externas de IA são proibidas, mas Peter usa o ChatGPT através da ferramenta de pesquisa KAGI.

Ele acha que o maior benefício de Ai vem de desafiar seu pensamento quando pede ao Chatbot para responder aos seus planos de diferentes perspectivas dos clientes.

“A IA não está lhe dando respostas, mas oferecendo a você um parceiro para discutir idéias”, diz ele. “Como gerente de produto, você tem muita responsabilidade e não possui muitos bons canais para discutir a estratégia aberta. Essas ferramentas permitem isso de uma maneira sem restrições e ilimitadas”.

A versão chatgpt que ele usa (4.0) Você pode analisar vídeos. “Você pode obter resumos de vídeos dos concorrentes e ter uma conversa inteira [com a ferramenta de IA] Sobre os pontos dos vídeos e como eles se sobrepõem a seus próprios produtos. “

Em uma conversa de 10 minutos com o ChatGPT, ele pode revisar o material que levaria duas ou três horas assistindo aos vídeos.

Ele estima que seu aumento da produtividade é equivalente à empresa ter um terço de outra pessoa trabalhando gratuitamente.

Ele não sabe por que a empresa proibiu o uso de IA externa. “Eu acho que é uma questão de controle”, diz ele. “As empresas querem ter uma palavra sobre as ferramentas que seus funcionários usam. É uma nova fronteira com TI e só querem ser conservadores”.

Versões de IA personalizadas

O uso de aplicativos de IA não autorizado às vezes é chamado de “Shadow AI”. É uma versão mais específica de “Shadow It”, que ocorre quando alguém usa software ou serviços que o departamento de TI não aprovou.

A segurança harmônica ajuda a identificar “Shadow AI” e impedir que os dados corporativos sejam inadequadamente inseridos em ferramentas de IA.

Ela está monitorando mais de dez mil aplicativos de IA e viu mais de cinco mil deles em uso.

Isso inclui versões personalizadas do ChatGPT e software de negócios que adicionaram funcionalidade de IA, como a Ferramenta de Comunicação Slack.

Por mais popular que seja, a “Shadow AI” traz riscos.

As ferramentas modernas de IA são construídas digerindo grandes quantidades de informações em um processo chamado treinamento.

Cerca de 30% dos aplicativos que a segurança harmônica viu em uso de treinamento usando informações entradas do usuário.

Isso significa que as informações do usuário se tornam parte da ferramenta de IA e podem ser reutilizadas em respostas para outros usuários no futuro.

As empresas podem estar preocupadas com a exposição de seus segredos comerciais pelas respostas da ferramenta de IA, mas Alastair Paterson, CEO e co -fundador da segurança harmônica, acha que isso é improvável. “É muito difícil obter os dados diretamente desses [ferramentas de IA]”Ele diz.

No entanto, as empresas estarão preocupadas em armazenar seus dados nos serviços de IA nos quais não são controlados, não sabem e isso pode ser vulnerável a vazamentos de dados.

Será difícil para as empresas combater o uso de ferramentas de IA, pois elas podem ser extremamente úteis, especialmente para trabalhadores mais jovens.

“[A IA] Permite comprimir cinco anos de experiência em 30 segundos de engenharia imediata “, diz Simon Haighton-Williams, CEO do The Adaptavist Group, um grupo de serviços de software do Reino Unido.

“Não substitui completamente [a experiência]Mas é um grande impulso, assim como ter uma boa enciclopédia ou uma calculadora permite que você faça coisas que não poderia obter sem essas ferramentas. “

O que ele diria às empresas que descobrem que há uso da sombra lá?

“Bem -vindo ao clube. Acho que provavelmente todo mundo faz isso. Seja paciente, entenda o que as pessoas estão usando e por quê e descubra como você pode abraçá -lo e gerenciá -lo, em vez de exigir que seja desligado. Você não quer ser deixado para trás como a organização que não [adotou a IA]. “

A Trimble fornece software e hardware para gerenciar dados no ambiente construído. Para ajudar seus funcionários a usar a IA com segurança, a empresa criou o Trible Assistant. É uma ferramenta interna de IA com base nos mesmos modelos de IA usados ​​no ChatGPT.

Os funcionários podem consultar o Trible Assistant para uma ampla gama de aplicativos, incluindo desenvolvimento de produtos, suporte ao cliente e pesquisa de mercado. Para desenvolvedores de software, a empresa oferece o GitHub Copilot.

Karoliina Tortila é a diretora da IA ​​da Trimble. “Encorajo todos a explorar todos os tipos de ferramentas em sua vida pessoal, mas reconheço que a vida profissional é um espaço diferente e há algumas salvaguardas e considerações a serem feitas lá”, diz ela.

A empresa incentiva os funcionários a explorar novos modelos e aplicativos on -line de IA.

“Isso nos leva a uma habilidade que todos somos forçados a desenvolver: precisamos entender o que é dado sensível”, diz ela.

“Há lugares onde você não colocaria suas informações médicas e precisa ser capaz de fazer esse tipo de julgamento [também para os dados de trabalho]. “

A experiência dos funcionários usando a IA em casa e para projetos pessoais pode moldar a política da empresa como ferramentas IVA, ela acredita.

É necessário ter um “diálogo constante sobre quais ferramentas nos servem melhor”, diz ela.