Na \u00faltima ter\u00e7a-feira (24), a Associa\u00e7\u00e3o Internacional do Direito do Seguro \u2013 AIDA Brasil \u2013 realizou um evento virtual com o tema \u201cProjeto de Lei de Intelig\u00eancia Artificial e Seguros: Principais Aspectos\u201d. Abertura e a modera\u00e7\u00e3o da live ficou por conta da vice-presidente do GNT de Inova\u00e7\u00e3o da associa\u00e7\u00e3o, Niris Cunha. O evento teve a participa\u00e7\u00e3o de outros membros do grupo, como Anthony Novaes, como expositor, e Mariana Barcellos, debatedora, no primeiro painel. Tamb\u00e9m contou com as presen\u00e7as de Landulfo Oliveira, como expositor, e de Juliana Mara da Silva, como debatedora, no segundo painel. Ap\u00f3s uma breve apresenta\u00e7\u00e3o do grupo e a contextualiza\u00e7\u00e3o do tema – o cen\u00e1rio e a import\u00e2ncia do PL a ser estudado \u2013 foi dado in\u00edcio aos pain\u00e9is. Ao final das exposi\u00e7\u00f5es os convidados participaram de uma mesa redonda, com debate sobre a intelig\u00eancia artificial nos contratos de seguro<\/p>\n
Como sintetizado pela ANPD [1] ao noticiar a publica\u00e7\u00e3o de sua an\u00e1lise preliminar do PL 2338\/23, \u201cno Brasil, a regula\u00e7\u00e3o da Intelig\u00eancia Artificial teve um in\u00edcio em resposta a um r\u00e1pido avan\u00e7o e ado\u00e7\u00e3o dessa tecnologia nos diversos setores da sociedade. A necessidade de estabelecer diretrizes para garantir \u00e9tica e transpar\u00eancia \u00e9 a responsabilidade do uso da AI e o que motivou o poder p\u00fablico a adotar medidas regulat\u00f3rias. Em 2020, foi proposto na C\u00e2mara dos Deputados, por iniciativa do deputado federal Eduardo Bismarck, o projeto de lei de n\u00famero 21\/2020, que estabeleceu o Marco legal do desenvolvimento e uso da Intelig\u00eancia Artificial pelo poder p\u00fablico, por empresas, entidades diversas e pessoas f\u00edsicas. A partir do PL 2120, as discuss\u00f5es a respeito do tema se intensificaram.<\/p>\n
Em 2022, foi formada no Senado uma comiss\u00e3o de juristas respons\u00e1veis para subsidiar e elaborar uma minuta do substitutivo, a partir do projeto de lei 5051\/19, de autoria do senador Styvenson Valentim, o PL 2120, do deputado federal Eduardo Bismarck, e o 872\/21 do senador Veneziano Vidal do R\u00eago. Com a cria\u00e7\u00e3o da comiss\u00e3o houve um avan\u00e7o significativo do tema, pois a partir desta foram realizadas diversas audi\u00eancias p\u00fablicas, reunindo mais de 50 especialistas em formato multissetorial, contando com a participa\u00e7\u00e3o de representantes do poder p\u00fablico, setor empresarial, sociedade civil e comunidade cient\u00edfica.\u201d<\/p>\n
Em maio de 2023, a comiss\u00e3o elaborou um relat\u00f3rio final de conclus\u00e3o dos trabalhos, o qual incluiu o anteprojeto de lei que foi convertido no PL 2338\/23, apresentado pelo senador Rodrigo Pacheco, presidente do Senado Federal. \u00c9 esse projeto de lei (2338\/23) que o nosso grupo de trabalho vem estudando. O grupo \u00e9 composto por pessoas interessadas no tema de inova\u00e7\u00e3o e seguro e se re\u00fane nas segundas segundas-feiras de cada m\u00eas para trabalhar e pesquisar quest\u00f5es do projeto.\u201d<\/p>\n
A metodologia de pesquisa utilizada foi a divis\u00e3o por artigos desse, projeto onde cada membro\/ componente do grupo fez um paralelo com o seguro. O grupo se dedica a acompanhar esse assunto de interesse das atividades do seguro sob o enfoque da Intelig\u00eancia Artificial, porque entendemos a relev\u00e2ncia e a import\u00e2ncia desse projeto para o mercado securit\u00e1rio. \u201cEsse ano n\u00f3s elegemos o projeto e, hoje, nessa live, escolhemos dois temas cujo debate entendemos ser importante, que s\u00e3o a quest\u00e3o dos riscos e a quest\u00e3o da responsabilidade civil\u201d, disse a Dra. Niris Cunha.<\/p>\n
O Dr. Anthony deu in\u00edcio aos pain\u00e9is falando sobre a classifica\u00e7\u00e3o de riscos no PL 2338 e as repercuss\u00f5es pr\u00e1ticas disso para o seguro. Sua apresenta\u00e7\u00e3o \u00e9 fruto da pesquisa realizada sobre o tema e, analisando o projeto de lei, foram encontrados v\u00e1rios poss\u00edveis impactos para os seguros. As solu\u00e7\u00f5es de intelig\u00eancia artificial para os seguros n\u00e3o s\u00e3o um passado, mas sim o presente e j\u00e1 t\u00eam sido utilizadas por diversas empresas. Nesse sentido, considerou adequado primeiramente comentar sobre o esp\u00edrito dessa lei e a regulamenta\u00e7\u00e3o de IA que foi proposta aqui no Brasil. O PL 2368\/23 est\u00e1 atualmente sendo avaliado no Senado. A inten\u00e7\u00e3o da legisla\u00e7\u00e3o proposta \u00e9 regulamentar de maneira geral as aplica\u00e7\u00f5es de Intelig\u00eancia Artificial e n\u00e3o tratar especificamente cada possibilidade espec\u00edfica de uso, refletindo muito a legisla\u00e7\u00e3o Europeia, o European Artificial Intelligence Act, da mesma forma como ocorreu no Brasil com a General Data Protection Regulation, a GDPR, que virou que inspirou muito a nossa LGPD.<\/p>\n
A regulamenta\u00e7\u00e3o europeia foi aprovada no Parlamento europeu em primeira vota\u00e7\u00e3o e eles t\u00eam uma meta de completar essa vota\u00e7\u00e3o at\u00e9 o final do ano, e dois problemas que j\u00e1 saltam aos olhos quando a gente pensa nessas solu\u00e7\u00f5es de IA s\u00e3o o da black box e da discrimina\u00e7\u00e3o automatizada. \u201cA gente tem esse mito de que a solu\u00e7\u00e3o de intelig\u00eancia artificial \u00e9 isenta e \u00e9 neutra, mas na verdade ela n\u00e3o \u00e9 neutra. Ela reproduz os defeitos dos seres humanos que criam essas solu\u00e7\u00f5es\u201d, ponderou.<\/p>\n
No que diz respeito ao projeto de lei, o artigo 17, que trata de solu\u00e7\u00f5es de IA de alto risco, cont\u00e9m alguns incisos que trazem informa\u00e7\u00f5es com potencial repercuss\u00e3o para os seguros. O inciso 4 fala de solu\u00e7\u00f5es de IA que avaliam crit\u00e9rios de acesso, elegibilidade, concess\u00e3o, revis\u00e3o, redu\u00e7\u00e3o ou renova\u00e7\u00e3o de servi\u00e7os privados e p\u00fablicos como sendo considerados essenciais, o que faz pensar, por exemplo, nos seguros obrigat\u00f3rios para algumas atividades. O inciso 5 fala da avalia\u00e7\u00e3o da capacidade de endividamento de pessoas naturais ou o estabelecimento de sua classifica\u00e7\u00e3o de cr\u00e9dito, o que faz pensar na contrata\u00e7\u00e3o de seguros, porque funcionam de uma maneira similar \u00e0s institui\u00e7\u00f5es financeiras, com a quest\u00e3o de concess\u00e3o de aprova\u00e7\u00e3o de cr\u00e9dito etc., porque cada seguradora concede um limite definido para cada segurado, seja pessoa f\u00edsica ou jur\u00eddica, para que ele possa contratar ap\u00f3lices. O inciso 8 fala de ve\u00edculos aut\u00f4nomos, quando o seu uso puder gerar riscos \u00e0 integridade f\u00edsica das pessoas, remetendo aos seguros de autom\u00f3vel.<\/p>\n
O inciso 9 fala de aplica\u00e7\u00f5es na \u00e1rea da sa\u00fade, inclusive as destinadas a auxiliar diagn\u00f3sticos e procedimentos m\u00e9dicos, o que resvala em produtos de seguro sa\u00fade. E o inciso 10\u00ba fala de sistemas biom\u00e9tricos de identifica\u00e7\u00e3o, o que faz pensar em produtos de seguros com uso de biometria. Quando se pensa em seguro sa\u00fade, que \u00e9 uma coisa muito fomentada pelo ODS3, (Agenda 2030), \u00e9 cada vez mais frequente que as empresas usem dispositivos biom\u00e9tricos e wearables, solu\u00e7\u00f5es tecnol\u00f3gicas que permitem monitoramento em tempo real das condi\u00e7\u00f5es cl\u00ednicas de um paciente, para que a medicina sirva muito mais \u00e0 preven\u00e7\u00e3o que \u00e0 interven\u00e7\u00e3o reativa quando o estado de sa\u00fade de algu\u00e9m se deteriora.<\/p>\n
O artigo 18 fala ainda sobre solu\u00e7\u00f5es de IA de alto risco ou risco excessivo, com uma lista de sistemas de IA de risco excessivo ou de alto risco vai ser avaliada periodicamente e atualizada pela autoridade competente com base em alguns crit\u00e9rios, dentre os quais o palestrante destacou os seguintes: implementa\u00e7\u00e3o em larga escala; impacto negativo para a utiliza\u00e7\u00e3o de um servi\u00e7o; alto potencial danoso material e moral ou discriminat\u00f3rio; afetar pessoas de um grupo espec\u00edfico vulner\u00e1vel (por exemplo, crian\u00e7as\/idosos); resultados prejudiciais irrevers\u00edveis ou dif\u00edcil revers\u00e3o; um sistema similar ter causado anteriormente danos materiais ou morais e um alto n\u00edvel de identificabilidade dos titulares dos dados, sejam dados gen\u00e9ticos, biom\u00e9tricos, dados por combina\u00e7\u00e3o, por correspond\u00eancia ou compara\u00e7\u00e3o de dados de v\u00e1rias fontes.<\/p>\n
\u201cTrazendo um exemplo pr\u00e1tico, hoje a gente j\u00e1 tem seguradoras e insuretchs usando solu\u00e7\u00f5es de IA. Tamb\u00e9m tem operadoras de sa\u00fade usando algoritmos para tomar decis\u00f5es automatizadas em rela\u00e7\u00e3o \u00e0 aprova\u00e7\u00e3o ou recusa de sinistros. Exemplos disso s\u00e3o aprova\u00e7\u00e3o ou negativa de cobertura para procedimentos m\u00e9dicos, precifica\u00e7\u00e3o personalizada de ap\u00f3lices, an\u00e1lise de riscos de sinistros em tempo real, previs\u00e3o de demanda e comportamento de clientes, assist\u00eancia virtual ao cliente e tamb\u00e9m detec\u00e7\u00e3o de fraudes\u201d, relatou.<\/p>\n
A Dra. Mariana iniciou sua participa\u00e7\u00e3o dizendo que, independentemente de qualquer nova regulamenta\u00e7\u00e3o, o que ela enxerga \u00e9 que muitas empresas ainda est\u00e3o um pouco incipientes na quest\u00e3o do seu compliance interno, na sua governan\u00e7a interna. Ela orienta que \u00e9 importante j\u00e1 deixar as coisas bem ajustadas antes de a gente colocar o elemento intelig\u00eancia artificial. \u201cPorque esse s\u00f3 vai ser mais uma agravante a depender das regula\u00e7\u00f5es espec\u00edficas.”. Complementou ainda sobre a possibilidade de a ANPD ser a autoridade reguladora de IA por conta da consulta p\u00fablica ao Sandbox aberto no m\u00eas de outubro: “Apesar deste primeiro passo dado pela ANPD, ainda tenho d\u00favidas se esta \u00e9 a Autoridade mais competente, em sentido amplo, para a regula\u00e7\u00e3o do uso desta tecnologia. N\u00e3o se pode deixar de considerar que cada setor do mercado tem as suas especificidades, e talvez a cria\u00e7\u00e3o de comit\u00eas setoriais que, reunidos, atuem em conjunto, seja uma sa\u00edda mais eficaz”.<\/p>\n
O Dr. Landulfo Oliveira e a Dra. Juliana Mara falaram sobre responsabilidade civil, tema que foi objeto de suas pesquisas durante esse ano ap\u00f3s a publica\u00e7\u00e3o do projeto de lei. \u201cTodo esse desenvolvimento tecnol\u00f3gico com o qual n\u00f3s convivemos a\u00ed nas \u00faltimas duas d\u00e9cadas trouxe muitas vantagens, muitos benef\u00edcios, no ambiente do mercado de seguros, na regula\u00e7\u00e3o de sinistro, na precifica\u00e7\u00e3o, na subscri\u00e7\u00e3o de riscos. Mas tamb\u00e9m vieram a\u00ed a reboque muitos riscos, o que nos leva a falar de responsabilidade civil, de dano e de indeniza\u00e7\u00f5es. Riscos n\u00e3o apenas para indiv\u00edduos, mas para os valores fundamentais da sociedade e do Estado de Direito. S\u00e3o diversos os riscos embutidos em Sistemas de Intelig\u00eancia Artificial\u201d, avaliou.<\/p>\n
Esse lado mal\u00e9fico precisa ser tratado, encarado sob o ponto de vista dos danos que pode vir a causar. E \u00e9 atrav\u00e9s dessa an\u00e1lise e todo esse olhar sobre o risco e a responsabilidade que o cap\u00edtulo reservado no projeto de lei 2338 tem tr\u00eas artigos t\u00e3o somente ali indicados para a responsabilidade civil. Mas todo o restante do projeto refere-se ora \u00e0 responsabilidade ora \u00e0 responsabiliza\u00e7\u00e3o, quanto \u00e0 auditoria, quanto \u00e0 governan\u00e7a, que s\u00e3o aspectos que v\u00e3o perpassar essa ideia de prote\u00e7\u00e3o tamb\u00e9m para os usu\u00e1rios e para a sociedade, a partir dos usos da Intelig\u00eancia Artificial.<\/p>\n
\u201cTemos de ter muito cuidado porque n\u00e3o estamos falando apenas de prote\u00e7\u00e3o de dados. N\u00e3o estamos falando de um nicho de mercado. N\u00f3s estamos falando de um uma atua\u00e7\u00e3o, de um mecanismo, de novos conceitos que v\u00e3o abranger a sociedade como todo. Ent\u00e3o \u00e9 preciso muito cuidado nessa quest\u00e3o de eleger um ente para regula\u00e7\u00e3o. Esse ente dever\u00e1 monitorar a gest\u00e3o dos riscos do sistema de intelig\u00eancia artificial no caso concreto avaliando os riscos de aplica\u00e7\u00e3o e as medidas de mitiga\u00e7\u00e3o em sua \u00e1rea de compet\u00eancia. Deve ainda estabelecer direitos e deveres e responsabilidades\u201d, pontuou.<\/p>\n
Landulfo trouxe para os espectadores um pouco das opini\u00f5es de juristas e da sociedade e de entidades a respeito da viabilidade de um PL fazer uma regula\u00e7\u00e3o, uma legisla\u00e7\u00e3o sobre responsabilidade civil. Ao longo de sua participa\u00e7\u00e3o o convidado comentou detalhes de outros artigos e incisos. Segundo o palestrante, s\u00e3o vedadas a implementa\u00e7\u00e3o e o uso de sistema de Intelig\u00eancia Artificial que empreguem t\u00e9cnicas subliminares, ou que tenham por objetivo produzir efeito \u00e0 pessoa a se comportar de forma prejudicial ou perigosa \u00e0 sua sa\u00fade ou seguran\u00e7a ou contra os fundamentos da lei. \u201cEssa \u00e9 a t\u00f4nica. N\u00e3o vamos permitir, como j\u00e1 vimos em determinadas situa\u00e7\u00f5es, em casos concretos de sistema automatizado de Intelig\u00eancia Artificial que induziu inclusive pessoas o suic\u00eddio. Isso \u00e9 uma preocupa\u00e7\u00e3o do legislador\u201d, salientou<\/p>\n
Quanto a alto risco Landulfo destacou alguns pontos em sua apresenta\u00e7\u00e3o que ele entende que valem ser evidenciados. Al\u00e9m da vis\u00e3o de professores\/estudiosos, ele compartilhou a opini\u00e3o de entidades sobre o tema. A CNseg pontuou que \u00e9 preciso realizar particulariza\u00e7\u00e3o das responsabilidades e obriga\u00e7\u00f5es que devem recair sobre os desenvolvedores e operadoras \u201cAcredita-se, por fim, n\u00e3o ser poss\u00edvel criar, ajustar nesse momento uma proposta, uma teoria para o direito dos danos em sede de Intelig\u00eancia Artificial, dada a possibilidade de se escolher um s\u00f3 regime quando se tem uma grande pluralidade de circunst\u00e2ncias relativas a esses sistemas\u201d, concluiu<\/p>\n
Para Juliana Mara, o que chama aten\u00e7\u00e3o em rela\u00e7\u00e3o \u00e0 interrela\u00e7\u00e3o da regula\u00e7\u00e3o da Intelig\u00eancia Artificial com a atividade de seguro \u00e9 que a quest\u00e3o pode receber enfoque por dois \u00e2ngulos: primeiro olhando para a opera\u00e7\u00e3o securit\u00e1ria como uma solu\u00e7\u00e3o e tamb\u00e9m olhando para a opera\u00e7\u00e3o securit\u00e1ria como demandante de Intelig\u00eancia Artificial, usu\u00e1ria operadora de Intelig\u00eancia Artificial. \u201cVejo que a intelig\u00eancia artificial al\u00e9m de benef\u00edcios vai criar riscos. A ideia \u00e9 que ela erre menos do que o ser humano, mas ainda assim, haver\u00e1 erros. O seguro obrigat\u00f3rio \u00e9 citado, inclusive em normativas principiol\u00f3gicas do Parlamento europeu, como uma solu\u00e7\u00e3o de mitiga\u00e7\u00e3o dos riscos da IA. Trazendo essa diferente realidade para o Brasil, eu imagino que a gente precisa ter cautela , ponderar as devidas propor\u00e7\u00f5es, as peculiaridades e particularidades da nossa na\u00e7\u00e3o, devido \u00e0 diversa realidade econ\u00f4mica e social, aos players existentes, n\u00edveis de riscos diferentes… indicou.<\/p>\n
Se detectarmos que uma dada aplica\u00e7\u00e3o de Intelig\u00eancia Artificial aut\u00f4noma ou semiaut\u00f4noma gera um risco dentro da categoria que os palestrantes demonstraram, nos artigos 17 a 19, se se enquadrar num risco alto, a responsabilidade ser\u00e1 integral e objetiva. H\u00e1 a necessidade ent\u00e3o de as seguradoras se atentarem aos seus mecanismos de compliance interno, exigindo-os tamb\u00e9m dos parceiros que elegem para agregarem \u00e0 sua cadeia de valor, no emprego da intelig\u00eancia artificial.<\/p>\n
Juliana cita que, devido \u00e0 preval\u00eancia da responsabilidade civil na modalidade objetiva, e no manejo da intelig\u00eancia artificial, tanto melhor que se possa demonstrar a proatividade para gerenciamento do risco. \u201c\u00c9 mais interessante recompensar virtudes, ou seja, agentes que atuam com a intelig\u00eancia artificial, possam demonstrar suas virtudes, isto \u00e9 demonstrar a proatividade para gerenciamento do riscos, mecanismos de an\u00e1lise de impacto do risco, para que n\u00e3o venham a ser punidos. Acho interessante essa ideia de demonstrar mecanismos de compliance\u201d, concluiu Juliana. A \u00faltima coloca\u00e7\u00e3o da palestrante foi em rela\u00e7\u00e3o \u00e0 posi\u00e7\u00e3o de algumas pessoas que apoiam a manuten\u00e7\u00e3o dos mecanismos atuais, o panorama atual de prote\u00e7\u00e3o j\u00e1 presente no c\u00f3digo de defesa do consumidor e as demais normativas do C\u00f3digo Civil, e exp\u00f5e sua vis\u00e3o de insufici\u00eancia do panorama legislativo atual, pois h\u00e1 necessidade de prever os mecanismos da responsabilidade civil, para que andem juntos inova\u00e7\u00e3o, desenvolvimeto tecnol\u00f3gico, desenvolvimento econ\u00f4mico e social, em cumprimento dos des\u00edgnios da Constitui\u00e7\u00e3o Federal e tamb\u00e9m a defesa dos direitos fundamentais de toda pessoa natural.<\/p>\n
Assista a live completa no canal da AIDA<\/p>\n