Andrej Karpathy: Software in the era of AI

Nos dias 16 e 17 de junho, aconteceu em San Francisco, CA, a primeira edição do AI Startup School, evento promovido pela Y Combinator. O encontro reuniu nomes de peso do ecossistema de tecnologia e IA, como Elon Musk, Satya Nadella, Sam Altman, Andrej Karpathy, Andrew Ng, Fei-Fei Li, Varun Mohan, John Jumper, Aravind Srinivas, Michael Truell, entre outros.

Cada palestra abordou temas centrais sobre o momento atual da inteligência artificial e os rumos da inovação em startups e grandes empresas.

Neste post, compartilho minhas anotações da palestra “Software in the Era of AI”, apresentada por Andrej Karpathy, ex-diretor de IA da Tesla e referência na área de aprendizado profundo.

A palestra completa está disponível neste link:

Minhas anotações

O software está mudando novamente de forma profunda e acelerada. Karpathy propõe que estamos entrando numa nova era da computação.

Três Eras do Software

• Software 1.0: Código clássico (ex: C++)

• Software 2.0: Redes neurais — weights aprendidos com dados

  • Ex: Autopilot da Tesla substituindo C++ por ML

• Software 3.0: Prompts e LLMs como nova linguagem de programação

  • Programação em inglês

Algumas analogias, comparações e características dos LLMs

• Utilities: LLMs como "infraestrutura de inteligência" (capex + opex)

• Fabs (fábricas de semicondutores): Treinamento caro, centralização em poucos laboratórios

• Sistemas Operacionais: LLMs como CPUs + memória (contexto)

• Anos 1960: Computação na nuvem, clientes finos, ainda cara

• Difusão invertida: Consumidor adota antes de governo e corporações

Psicologia dos LLMs

• Super-humanos em memória e conhecimento

• Déficits cognitivos:

→ Alucinações, erros simples, sem aprendizado contínuo

→ "Como se fosse a primeira vez" (amnésia anterógrada)

• Vulneráveis a prompt injection e falhas de segurança

Oportunidades: Aplicações com autonomia parcial

• UX + LLMs: GUI ajuda na verificação e aceleração do fluxo

Chaves do design:

• Gerenciamento de contexto

• Orquestração de múltiplos LLMs

• Interface visual para humanos (ex: diffs coloridos)

• Slider de autonomia: do assistente à ação automática

• Modelo de cooperação: IA gera, humano revisa

• Mais eficaz: armadura do Homem de Ferro (assistente), não o robô completo (autônomo)

Todo mundo pode ser programador (Vibe Coding)

• Codificação com linguagem natural (ex: app iOS com prompt)

• Dificuldade real: infraestrutura (DevOps, deploy, pagamentos)

Construindo para agentes (IA)

• Criar interfaces e formatos pensados para LLMs:

  • lm.txt: arquivos legíveis por IA

  • Documentação em Markdown com comandos

  • Ferramentas como git ingest e deep wiki

Em resumo

LLMs são como novos sistemas operacionais. Ainda falíveis, mas com superpoderes. A era dos agentes será construída com produtos de autonomia parcial, UX forte e interação humano-IA eficiente. O momento é agora.