Esse ano o Instituto Aaron Swartz pretende realizar discussões sobre como as grandes empresas de Inteligência Artificial sobrevivem graças a práticas que quando são realizadas por pessoas que buscam democratizar o acesso a cultura e a ciência são criminalizadas. Esse primeiro texto é uma tradução feita pelo instituto Aaron Swartz de uma edição da newsletter Flaming Hydra escrito por David Moore .
Foto da turma de 2005 do Ycombinator.
A turma inaugural do acelerador de startups e capital de risco YCombinator foi fotografada em 2005. O YCombinator oferece financiamento inicial e orientação para startups promissoras em troca de uma porcentagem de participação acionária, estando envolvida no lançamento de mais de 4.000 empresas, incluindo Airbnb, Coinbase, DoorDash, Twitch, Instacart e Reddit.
Quase 20 anos depois, vários dos jovens na foto se tornaram nomes conhecidos. Na primeira fila, de braços cruzados está Sam Altman, CEO da empresa de inteligência artificial OpenAI, criadora do polêmico chatbot ChatGPT. À esquerda de Altman na foto encontra-se Aaron Swartz, programador, ativista e escritor que cometeu suicídio em janeiro de 2013, aos 26 anos. Altman foi aceito na primeira turma do YCombinator por sua startup Loopt, e Swartz pelo Infogami, que mais tarde se fundiu ao Reddit.
No momento de sua morte, Swartz estava sendo indiciado por ter baixado vários milhões de documentos do repositório online JSTOR. Ele era um alvo central do Departamento de Justiça dos EUA de “crimes cibernéticos”, e, embora a JSTOR não tenha dado prosseguimento ao processo, Swartz enfrentava a possibilidade de ser condenado em até 35 anos de prisão. Ele foi vítima do que seus advogados posteriormente chamaram de um caso movido por interesses publicitários, liderado pela então procuradora distrital dos EUA, Carmen Ortiz, e pelo procurador assistente Stephen Heymann, entre outros.
Tive a sorte de chamar Aaron de amigo. Ele fez contribuições imensas em muitos campos: foi co-criador do RSS e um dos arquitetos iniciais do Creative Commons; ajudou a escrever o Markdown; foi um ativista eficaz pelas liberdades digitais globais e muito mais. Como cofundador da Demand Progress, ele foi fundamental para derrotar a SOPA, o projeto de lei que geraria censura prévia e prejudicaria a internet. Após essa vitória, ele fez um discurso incisivo na conferência Freedom to Connect em 2012, um ano antes de sua morte.
“Não se enganem: os inimigos da liberdade de conexão não desapareceram. O fogo nos olhos desses políticos não foi apagado. Há muitas pessoas, muitas pessoas poderosas, que querem restringir a internet. E, para ser honesto, não há muitos que tenham um interesse real em protegê-la de tudo isso. Até mesmo algumas das maiores empresas de internet, francamente, se beneficiariam de um mundo em que seus pequenos concorrentes pudessem ser censurados. Não podemos deixar que isso aconteça.”
Aaron Swartz entendia perfeitamente os riscos que enfrentamos hoje.
Dinheiro infinito está fluindo para startups de IA, alimentadas por grandes quantidades de dados extraídos de todos os cantos da internet; isso torna a injustiça do indiciamento de Aaron mais difícil de acreditar ou aceitar.
A OpenAI, co-fundada por Altman em 2015, anunciou em setembro que seu negócio principal não seria mais controlado por um conselho sem fins lucrativos e que Altman receberia participação direta na empresa, adicionando bilhões de dólares ao seu já vasto patrimônio líquido. Ele é talvez o magnata do Vale do Silício mais conhecido por promover sua própria empresa como pioneira de um futuro de segurança e responsabilidade, protegendo a humanidade da ameaça da IA.
Além disso, a OpenAI acaba de fechar a maior rodada de investimentos já vista para uma empresa privada, levantando 6,6 bilhões de dólares em uma avaliação impressionante de 157 bilhões de dólares, transformando uma empresa que sempre operou com grandes prejuízos em pé de igualdade com gigantes da tecnologia como Adobe e IBM. O maior investidor da OpenAI, de longe, é a Microsoft, que injetou 14 bilhões de dólares na empresa, acelerando a corrida armamentista de IA contra Amazon, Google e outras concorrentes.
A OpenAI e seus rivais têm recebido algum escrutínio na imprensa de tecnologia em relação às quantias astronômicas que receberam, aos custos ambientais exorbitantes da IA e à crescente incerteza sobre a viabilidade final de produtos como o ChatGPT — mas, por enquanto, a OpenAI é uma das empresas privadas mais valiosas do mundo.
Além do drama da governança, a explosão nas emissões poluentes e do hype do Vale do Silício, há uma série de processos contra a dependência da OpenAI de grandes conjuntos de dados para treinar seus modelos comerciais de IA, muitos deles acessados contornando os termos de uso originais. Sob a liderança de Altman, a empresa construiu o Whisper, uma ferramenta para transcrever vídeos públicos do YouTube, que foi então usada como fonte para o modelo GPT-4 — uma área cinzenta legal, dada a proibição do YouTube contra o uso de seus vídeos para aplicativos “independentes”. Fontes disseram ao Times que a Google não reclamou publicamente porque já havia treinado sua própria IA com as transcrições de vídeos do YouTube. Mesmo assim, há uma ação coletiva de criadores do YouTube contra a OpenAI em andamento na justiça; outros processos foram movidos por romancistas, artistas, jornalistas e empresas de mídia.
Foi uma suposta violação dos termos de serviço da JSTOR que colocou em movimento o ataque dos promotores a Aaron Swartz. No entanto, a equipe de defesa de Swartz planejava apresentar testemunhos de que a brecha que ele usava era conhecida pela JSTOR e pelo MIT. Novamente, a JSTOR havia chegado a um acordo com Swartz e informado aos promotores que preferiam que nenhuma acusação fosse feita contra ele.
Em novembro, Sam Altman foi brevemente demitido da OpenAI, em parte por mentir para o conselho da empresa, antes de retornar rapidamente ao seu antigo cargo devido à pressão de funcionários e investidores. Enquanto a indústria de tecnologia observava, impressionada, Altman completou seu afastamento do compromisso muito divulgado da OpenAI com a segurança na IA em favor de bilhões em investimentos.
Aaron Swartz foi ameaçado com décadas de prisão por acessar (não disseminar) informações; Sam Altman, cuja empresa acessou — e abertamente monetizou — ordens de magnitude mais informações do que Swartz, poluiu e regurgitou essas informações para o público e acumulou reservas intermináveis de dinheiro de investidores com as quais se defende de processos que desafiam suas ambições comerciais.
Swartz, o programador obstinado de código aberto e defensor do acesso aberto a pesquisas financiadas publicamente; Altman, que cada vez mais restringe o acesso a informações sobre seu modelo de IA.
Swartz, que ajudou a derrotar os projetos de lei de censura na internet SOPA/PIPA; Altman, cuja empresa é financiada pela Microsoft, que em 2011-2012 apoiou o projeto de lei restritivo de “lista negra” da internet, PIPA. Swartz, que chamou a atenção para a corrupção institucional, que cofundou grupos de defesa progressistas que ainda estão ativos em nome da web aberta; Altman, que assumiu o papel de evangelista da IA e tem o megadoador libertário de direita Peter Thiel entre seus mentores.
—
Eu vi Aaron em um encontro de tecnólogos progressistas em Nova York dois dias antes de ele tirar a própria vida; fizemos planos para nos encontrar em seu espaço de trabalho na semana seguinte, para conferir um “kit de campanha política” de código aberto que estava em desenvolvimento. Ele era uma inspiração formidável. Eu lembro de cada detalhe do momento em que soube da notícia de sua morte e da sensação angustiante que me lançava ao chão. Em seu memorial na cidade de Nova York, os amigos próximos de Aaron compartilharam sua dor, sem medo de rir com amor das memórias junto à multidão no Cooper Union Great Hall.
Os executivos da Microsoft e os investidores de venture capital incrivelmente ricos que estão financiando as jogadas da OpenAI são difíceis de alcançar com apelos aos benefícios da tecnologia aberta. Mas podemos lembrar, a cada declaração deles, do outro caminho que sempre esteve disponível: tecnologia construída para ser sustentável, voltada para o conhecimento coletivo confiável e praticando responsabilidade ambiental. Os hiperescaladores (empresas que oferecem infraestrutura em nuvem em larga escala) de IA não conquistaram esse tipo de confiança.
Desde a morte de Aaron Swartz, os tecnólogos tiveram chances de desenvolver infraestruturas mais abertas e sem fins lucrativos, apenas para ver serviços supercomercializados e carregados de vigilância, como Facebook, Microsoft e Google, avançarem repetidamente. Sentimos falta das ideias de Aaron e de sua busca pela abertura. Mas ainda podemos trabalhar para trazer a abertura de volta ao centro das ferramentas que estamos construindo e usando todos os dias, antes que as janelas do nosso mundo se estreitem ainda mais.