26 de março, o Google anunciou a formação de um grupo consultivo externo para ajudar a empresa a navegar questões complexas em torno do desenvolvimento ético e responsável de novas tecnologias, incluindo AI. Em 4 de abril, o conselho foi dissolvido e o Google reconheceu que a empresa estava “voltando à prancheta”.

Ironicamente, o novo grupo de conselheiros de ética do Google se desfez devido a desafios éticos. Mas, além de sublinhar quão frágeis são as incursões atuais na ética tecnológica, o incidente atesta um desafio muito maior que as empresas de tecnologia estão enfrentando: como elas podem garantir que a tecnologia que desenvolvem – especialmente IA – seja tão boa para a sociedade quanto para sua linha de fundo?

IA ética e responsabilidade social
O Conselho Consultivo do Google foi criado para ajudar a empresa a implementar seus Princípios de Inteligência Artificial – uma “carta ética para orientar o desenvolvimento responsável e o uso da IA ​​em nossas pesquisas e produtos”.

Lançados em junho passado, os Princípios articulam ideais e aspirações com os quais muitos concordariam, incluindo o desenvolvimento de tecnologias socialmente benéficas, evitando preconceitos injustos e garantindo a segurança. Eles espelham esforços semelhantes de empresas como a Microsoft e outros para desenvolver uma base ética para o desenvolvimento da IA. Eles também refletem estruturas como as diretrizes do IEEE em Design alinhado eticamente. E em um momento em que há preocupação legítima crescente com os impactos pessoais e sociais potencialmente prejudiciais da IA ​​e outras tecnologias, eles são louváveis.

E, no entanto, como o Google descobriu ao seu custo, enquadrar o desenvolvimento socialmente responsável e benéfico em termos de ética está repleto de dificuldades.

“É fácil falar sobre normas sociais e éticas compartilhadas em termos gerais, quando há pouco em jogo. Mas jogue na mistura de reputações, egos, ideologias, política e lucros, e todas as apostas estão fora ”
Parte da questão que está sendo enfrentada pelo Google e outras empresas é que a ética envolve normas sociais em torno do que é considerado correto e apropriado versus o que é errado e inadequado, mas por si só não fornece mecanismos robustos para desenvolver e construir um sistema seguro e responsável. produtos.

Isso é complicado por valores e ideologias que parecem homogêneas à distância, mas muitas vezes se tornam fraturadas e disparatadas quando vistas de perto. É fácil falar sobre normas sociais e éticas compartilhadas em termos gerais, quando há pouco em jogo. Mas jogue na mistura de reputações, egos, ideologias, política e lucros, e todas as apostas estão desativadas.

Apesar disso, a ética é essencial para estabelecer uma base orientadora de como novas tecnologias poderosas são desenvolvidas e usadas. No entanto, valem pouco sem mecanismos e processos que assegurem decisões de pesquisa, desenvolvimento e comercialização, conduzam a resultados que sejam socialmente responsáveis ​​e benéficos.

Ética Empresarial
Eu estava lidando com essa desconexão entre aspirações éticas e impacto social já em 2013, quando comecei a ensinar ética para jovens empreendedores como parte do (agora extinto) Mestrado em Empreendedorismo da Universidade de Michigan. Embora esse programa precedeu a atual onda de entusiasmo em torno da ética em IA / tecnologia, reconheceu que os empreendedores de tecnologia emergentes precisavam de uma base sólida em ética. E, no entanto, quando desenvolvi meu curso de Ética Empreendedora, logo ficou óbvio que esses estudantes de pós-graduação precisavam de mais do que uma bússola ética enquanto lidavam com as realidades de lançar sua própria startup.

Como resultado, o curso concentrou-se em equipar os alunos para tomar decisões de negócios difíceis no mundo real, mantendo-se fiel aos valores pessoais e institucionais e às normas sociais. E isso foi feito construindo habilidades em torno de cinco pilares que incluíam:

Princípios básicos da ética empreendedora;
Valores pessoais e como eles se integram com valores institucionais;
Processos críticos para codificação de valores dentro de empresas;
Interagir e envolver os principais grupos constituintes; e
Práticas e produtos socialmente responsáveis
Os alunos que participaram do curso desenvolveram uma compreensão da importância da ética na inovação tecnológica. Mas eles também deixaram entender como operacionalizar boas intenções em boas práticas de negócios e resultados socialmente benéficos.

“Esses futuros fundadores poderiam ter a melhor ideia técnica do mundo, mas se não conseguissem entender o impacto social do que planejavam, eles se arriscavam a falhar”
Ao ministrar o curso, fiquei especialmente interessado em saber como essa abordagem da ética empreendedora poderia fomentar uma cultura de responsabilidade dentro da comunidade de startups. Mas também me concentrei no sucesso futuro desses alunos e em como a ética prática poderia ajudá-los a enfrentar os desafios da inovação que inevitavelmente enfrentariam.

Na época em que eu estava desenvolvendo o curso, minha pesquisa e a de outras pessoas tornava cada vez mais claro que o cenário mais amplo de risco social em torno de novas tecnologias estava se tornando uma ameaça crescente ao sucesso empresarial. O que estava se tornando evidente era que esses futuros fundadores poderiam ter a melhor ideia técnica do mundo, mas se não conseguissem entender o impacto social do que estavam planejando, corriam o risco de fracassar.

Seis anos depois, isso é mais evidente do que nunca, já que um número crescente de empresas enfrenta as conseqüências da ignorância social. Parei de ensinar Ética Empresarial em 2015 quando me mudei para a Universidade Estadual do Arizona, mas muitas das ideias que germinaram estão encontrando seu caminho em projetos atuais como o Acelerador de Inovação em Risco da Universidade do Estado do Arizona.

Operacionalizando Valores e Normas Sociais
Todos os anos, lecionei o curso de Ética Empreendedora, e fui lembrado de novo de como a maioria dos empreendedores está se esforçando para tornar o mundo um lugar melhor. Esses alunos não estavam envolvidos pelo dinheiro (pelo menos a maioria deles não estava). Em vez disso, eles queriam curar doenças, conter as mudanças climáticas, proteger o meio ambiente e tornar o mundo um lugar melhor. Eles foram levados a transformar seus valores em um futuro que parecia melhor e mais brilhante para os outros.

O problema era que seus valores eram ingênuos e efêmeros. Eles tinham boas intenções, mas não tinham ideia de como traduzi-los em boas práticas. E, como resultado, eles eram muito facilmente absorvidos pelas duras realidades da construção de um negócio.

O que eles precisavam era uma maneira de conectar seus valores e aspirações em seus negócios, de modo que resistissem às escolhas difíceis que todo inovador encontra.

Com certeza, meus alunos precisavam de uma base sólida em ética. Mas, além disso, precisavam de uma maneira de operacionalizar o que era importante para eles, de modo que suas empresas não fracassassem no primeiro obstáculo ético. Mais do que isso, eles precisavam entender como navegar e prosperar em um cenário social complexo, onde todas as ações que tomavam potencialmente ameaçavam algo importante para outra pessoa, e onde as normas e expectativas sociais poderiam criar barreiras que nenhuma perícia técnica as preparava para.

Esses são os tipos de desafios do mundo real para os quais preparei meus alunos. E eles não são os tipos de desafio que são prontamente endereçáveis ​​por meio da convocação de conselhos de ética ou grupos consultivos.

Isso se reflete em abordagens mais pragmáticas da ética tecnológica, como a abordagem do IEEE para o projeto Ethically Aligned, que se propõe a “fornecer percepções e recomendações pragmáticas e direcionais” a tecnólogos, educadores e formuladores de políticas.

A abordagem do IEEE começa a ajudar a operacionalizar abordagens éticas à inovação tecnológica. E, no entanto, apesar da disponibilidade de recursos como esse, ainda existe um notável nível de ingenuidade em relação ao uso de conselhos de ética e estruturas de consultoria semelhantes em empresas de tecnologia. E isso é em parte porque os esforços do Google para acertar as coisas implodiram na semana passada.

Além da ética
Grande parte da ingenuidade atual em torno da ética da IA ​​e da ética da tecnologia de forma mais ampla, surge do pressuposto de que o desenvolvimento de diretrizes de ética e de grupos consultivos de ética são suficientes para assegurar a inovação socialmente responsável.

Infelizmente, eles não são.

Na pior das hipóteses, os conselhos consultivos de ética podem facilmente tornar-se uma fumaça e espelhos tentam mascarar negócios como de costume sob o disfarce de responsabilidade social. Como empresas como o Google e outras pessoas estão começando a descobrir, as pessoas não são tão facilmente enganadas.

No outro extremo do espectro, os conselhos consultivos de ética têm um papel valioso a desempenhar para ajudar a definir as regras básicas e os limites das práticas de inovação. Mas, por si só, isso faz pouco para assegurar a inovação socialmente benéfica, a menos que existam mecanismos associados para operacionalizar regras éticas, limites e expectativas dentro de uma organização. E como The Verge informou recentemente, a evidência até agora é que tais conselhos fazem pouco para afetar os resultados reais.

Então quais são as alternativas? Como uma empresa como a Google cuida para garantir que suas ações e produtos aumentem o valor da sociedade, causando o menor dano possível à sociedade?

“A ética sozinha não é suficiente. As empresas também precisam se concentrar nos resultados, e o caminho muitas vezes tortuoso entre as metas de aspiração, e o que acontece quando a borracha bate na estrada ”
O primeiro passo é não jogar fora o bebê da ética com a água do banho. A ética da inovação tecnológica é importante. Eles são essenciais para solidificar boas intenções nebulosas em valores concretos que refletem normas e expectativas sociais.

Mas a ética sozinha não é suficiente. As empresas também precisam se concentrar nos resultados, e o caminho muitas vezes tortuoso entre as metas de aspiração, e o que acontece quando a borracha bate na estrada.

É nesse ponto que a inovação ética e a responsabilidade social tomam um rumo muito prático e exigem que os desenvolvedores e tomadores de decisão, em cada etapa do processo de desenvolvimento, produção e entrega, trabalhem para criar produtos e serviços que façam o bem, sem causar danos.

Fornecer resultados socialmente responsáveis ​​e benéficos requer uma infinidade de ferramentas e processos, incluindo padrões internos e abrangentes do setor, expectativas mensuráveis, controles e contrapesos executáveis, políticas significativas e uma cultura de responsabilidade social. Eles também demandam adesão em todo o ecossistema corporativo, de funcionários e executivos, a investidores, parceiros de negócios, consumidores, comunidades impactadas e reguladores.

E, mais importante, exigem um compromisso estratégico com treinamento e educação, garantindo que funcionários e líderes de negócios daqui a 2, 5, 10 anos tenham as habilidades necessárias para construir empresas de sucesso que sejam socialmente responsáveis. Isso, por sua vez, exigirá uma abertura para novos conjuntos de habilidades que não se encaixam em títulos de trabalho antigos e ultrapassados ​​e disposição para se envolver com especialistas que entendem como inovar de maneira responsável e bem-sucedida em um mundo em rápida transformação.

O que eles não precisam é de conselhos de ética que são mais uma responsabilidade do que um ativo.

É claro que a ética tecnológica (incluindo a ética da IA) é de vital importância – eles estão no coração do que significa inovar com responsabilidade. No entanto, muitas empresas de tecnologia – especialmente no setor de IA – caíram na armadilha de igualar ética com sucesso, enquanto pulam as coisas difíceis no meio. Eles se apaixonam pelo fascínio de conselhos de ética e princípios éticos. E, como consequência, eles se arriscaram a ficar cegos para o desafio muito mais difícil de administrar um negócio com sucesso e, ao mesmo tempo, criar valor social.

É aqui que empresas como o Google precisam desesperadamente de uma redefinição ética. Não é assim que abandonam seu compromisso com a inovação ética, mas para que possam contar onde isso importa.