A onda da inteligência artificial (IA) continua a ganhar impulso à medida que mais organizações exploram possíveis casos de uso. A IA generativa, especificamente, parece ser o tópico do ano nas notícias, no trabalho e em casa. Duas emoções comuns parecem estar presentes em todas as discussões sobre IA: curiosidade e medo. Quais processos de negócios podem ser aprimorados por essas ferramentas? Como as equipes podem obter a adesão de sua organização? Há perguntas feitas por aqueles que estão ansiosos para aprender mais e encontrar maneiras benéficas de integrar as ferramentas de IA.

Analisando o último aspecto, também houve ceticismo sobre o que a IA generativa pode fazer e como é arriscado usar essa tecnologia nos negócios. Segurança, resultados discriminatórios e privacidade são as principais preocupações. O que muitos estão descobrindo é que não é a ferramenta em si que causa os erros, mas sim o ser humano por trás da tecnologia. Entender como implementar a IA de maneira segura e responsável gerará sucesso e destacará a importância do componente humano.

Os órgãos reguladores e jurídicos estão reconhecendo que a IA veio para ficar. Eles estão analisando os benefícios e os riscos tanto do ponto de vista humano quanto tecnológico. Novas legislações, regras regulatórias e orientações judiciais podem ajudar as organizações a navegar pela IA e usar essas ferramentas com segurança. Aqui estão três tópicos importantes nessa área que devem ser monitorados.
 

Nº 1: Legislação dos EUA

Não é de surpreender que os estados tenham começado a considerar e aprovar legislação sobre o uso de IA. Isso se materializou de várias maneiras. Um exemplo é quando os estados abordam a IA por meio de suas leis estaduais mais amplas de privacidade do consumidor. Muitas leis promulgadas oferecem direitos de exclusão para o uso de tecnologia de tomada de decisão automatizada e criação de perfis. Outras exigem que as organizações realizem avaliações de risco para determinadas atividades de processamento em que o uso de IA possa se enquadrar nas categorias proibidas.

Alguns estados têm leis adicionais em vigor que tratam de categorias restritas de uso de IA. Por exemplo, na Califórnia, o Bolstering Online Transparency Act exige que as organizações divulguem que a comunicação está ocorrendo por meio de um bot ao tentar incentivar a venda ou influenciar votos eleitorais. Há também alguns estados que têm leis que impõem restrições ao uso de IA para fins de contratação, incluindo o Illinois AI Video Interview Act. Além disso, a lei de IA no local de trabalho de Maryland aborda o uso de tecnologia de reconhecimento facial durante entrevistas pré-emprego.

O que foi dito acima é apenas um instantâneo e o começo do que está por vir. Desde que a IA generativa assumiu o centro das atenções, mais estados começaram a apresentar projetos de lei sobre IA. No início de setembro de 2023, havia 12 projetos de lei ativos. Vários outros foram apresentados nos últimos anos, mas fracassaram. A legislação proposta varia desde o foco em IA generativa até a mitigação da discriminação ilegal presente em ferramentas de decisão automatizadas e muito mais.

Na ausência de uma lei federal sobre regulamentação de IA, os estados continuarão a tentar aprovar suas próprias leis. Algumas serão mais adaptadas a tópicos específicos ou mencionadas em leis mais amplas. Outros estados podem tentar aprovar uma legislação abrangente que regulamente a IA. No entanto, os legisladores e analistas estão lutando para determinar os parâmetros que adotariam a inovação sem abrir as comportas do risco. O resultado pode ser uma abordagem de retalhos para a orientação de IA que se assemelha à regulamentação de privacidade de dados do consumidor.

Na ausência de uma lei federal sobre regulamentação de IA, os estados continuarão a tentar aprovar suas próprias leis. Algumas serão mais adaptadas a tópicos específicos ou mencionadas em leis mais amplas. Outros estados podem tentar aprovar uma legislação abrangente que regulamente a IA. No entanto, os legisladores e analistas estão lutando para determinar os parâmetros que adotariam a inovação sem abrir as comportas do risco. O resultado pode ser uma abordagem de retalhos para a orientação de IA que se assemelha à regulamentação de privacidade de dados do consumidor.
 

Nº 2: Regra de conflito de interesses da SEC

Os órgãos reguladores também reconhecem a importância de abordar a IA e as tecnologias relacionadas, com a Comissão de Valores Mobiliários (SEC) dos Estados Unidos votando recentemente para propor uma nova regra. Se aprovada, a regra regularia o uso de IA por corretores e consultores de investimento. A SEC reconhece que as empresas aceleraram o uso de novas tecnologias. O informativo da SEC sobre esse tópico fornece um raciocínio sucinto para essa proposta:
 

“Quando o uso dessas tecnologias é otimizado para os interesses dos investidores, ele pode trazer benefícios em termos de acesso ao mercado, eficiência e retornos. Na medida em que as empresas utilizam essas tecnologias para otimizar de forma a colocar seus interesses acima dos interesses dos investidores, estes podem ser prejudicados. Devido à escalabilidade dessas tecnologias e à possibilidade de as empresas atingirem um público amplo em uma velocidade rápida, quaisquer conflitos de interesse resultantes poderiam causar danos aos investidores de forma mais pronunciada e em uma escala mais ampla do que era possível anteriormente.”

A proposta contém três requisitos principais. Primeiro, as empresas devem neutralizar os conflitos de interesse ao usar ferramentas de IA que promovam seus próprios interesses em detrimento dos interesses de seus clientes investidores. Segundo, implementar políticas e procedimentos destinados a evitar violações e cumprir as regras. Terceiro, manter registros claros ao lidar com uma situação de conflito que esteja sob a alçada dessas regras. De acordo com a definição pretendida de tecnologias cobertas, as regras se aplicariam às principais categorias de IA - reativa, memória limitada e teoria da mente.

O período de comentários públicos terminou em 10 de outubro de 2023, portanto, pode haver algumas mudanças em breve. Houve alguma oposição que pode influenciar as próximas etapas. Por exemplo, os opositores da regra acham que essa é uma forma de proibir determinadas tecnologias. Além disso, as regras poderiam privar os investidores dos benefícios da IA quando uma empresa opta por não usar uma ferramenta para evitar custos associados à conformidade. As partes interessadas devem observar se a SEC adotará formalmente a regra nos próximos meses.
 

Nº. 3: Divulgação e certificação do tribunal

A maioria já ouviu a história do advogado que usou o ChatGPT para ajudar a redigir um resumo que acabou citando casos falsos criados pela ferramenta. Isso fez com que vários juízes implementassem ordens permanentes exigindo que o advogado apresentasse certificações de IA generativa. Se essa divulgação é necessária é uma questão importante. Isso pode promover o uso de IA responsável, garantindo que os advogados estejam analisando as informações geradas pelas ferramentas de IA. Isso coloca o tribunal em alerta, economiza recursos judiciais, ajuda os advogados a manter a reputação e evita atrasos.

No entanto, muitos membros da comunidade jurídica se manifestaram sobre os possíveis pontos negativos dessas ordens. Alguns acham que elas são duplicadas. Outra preocupação é que a falta de consistência pode causar confusão em massa ou fazer com que os advogados não usem essa tecnologia de forma benéfica. O artigo da Judicature “Is Disclosure and Certification of the Use of Generative AI Really Necessary” discutiu possíveis alternativas. Primeiro, que pode ser mais adequado que os tribunais distritais emitam regras locais sobre o uso de ferramentas de IA generativa para promover a uniformidade e evitar consequências adversas. Em segundo lugar, a notificação pública pode ser um caminho melhor do que a criação de novas regras. Isso incluiria a obrigação já existente de verificar a representação factual e legal quando se tem assistência para redigir documentos judiciais, ou seja, usar ferramentas de IA generativas.

Embora seja interessante ver como a questão da certificação tende e evolui, o simples fato é que a responsabilidade de verificar os fatos e fornecer controle de qualidade sobre o resultado da tecnologia sempre será responsabilidade humana. Os advogados devem permanecer tecnologicamente competentes e verificar seu trabalho ou, caso contrário, enfrentarão sanções judiciais, violações éticas, danos à reputação e perda de negócios.
 

Conclusion

A IA não está indo a lugar algum e continuará a ser um tema quente nos próximos anos. Manter-se informado sobre as questões perante legisladores, reguladores e tribunais não é uma opção. É imperativo poder integrar com segurança as tecnologias emergentes nas operações comerciais cotidianas e manter a conformidade em todos os aspectos.