De ex-Facebook a startup de segurança em IA
\n
Quando Brett Levenson deixou a Apple em 2019 para liderar a integridade de negócios no Facebook, o cenário da moderação de conteúdo na plataforma estava em crise, especialmente após o escândalo Cambridge Analytica. Com a ideia inicial de resolver o problema com tecnologia, ele rapidamente percebeu que o desafio ia muito além dos recursos técnicos: revisores humanos tinham que memorizar políticas extensas e tomar decisões em segundos, com precisão pouco superior a 50%.
\n\n
O conceito de "política como código" e o nascimento da Moonbounce
\n
Frustrado com a abordagem reativa e imprecisa da moderação, Levenson idealizou a transformação das políticas de conteúdo estáticas em lógica executável e atualizável — o chamado "policy as code". Essa ideia deu origem à Moonbounce, startup que acaba de anunciar uma rodada de investimento de US$ 12 milhões, liderada pela Amplify Partners e StepStone Group.
\n
\n\n
Como funciona a tecnologia da Moonbounce
\n
A Moonbounce desenvolveu um motor de controle baseado em um modelo de linguagem próprio, capaz de interpretar documentos de políticas de moderação dos clientes e avaliar conteúdos em tempo real, com respostas em até 300 milissegundos. Dependendo da configuração, o sistema pode limitar a distribuição do conteúdo para revisão humana posterior ou bloquear imediatamente materiais de alto risco.
\n\n
Setores atendidos
\n
- \n
- Plataformas com conteúdo gerado por usuários, como apps de relacionamento;
- Empresas de IA que criam personagens ou assistentes virtuais;
- Geradores de imagens baseados em IA.
\n
\n
\n
\n\n
Entre os clientes da Moonbounce estão startups como Channel AI, Civitai, Dippy AI e Moescape, que juntos somam mais de 40 milhões de revisões diárias e atendem a mais de 100 milhões de usuários ativos.
\n\n
Segurança como diferencial de produto
\n
Levenson destaca que a segurança pode ser um benefício incorporado ao produto, não apenas uma etapa posterior. Plataformas como Tinder já utilizam tecnologias similares e reportam melhorias de até 10 vezes na precisão das detecções de conteúdo inadequado.
\n\n
Desafios da moderação na era dos LLMs
\n
Com a popularização dos grandes modelos de linguagem (LLMs), a moderação de conteúdo se tornou ainda mais complexa, especialmente diante de incidentes envolvendo chatbots que incentivaram comportamentos autodestrutivos ou geradores de imagens não consensuais. A Moonbounce atua como uma camada intermediária entre usuário e chatbot, focando exclusivamente na aplicação das regras em tempo real, sem a necessidade de processar todo o contexto da conversa.
\n\n
Inovação para casos sensíveis: "iterative steering"
\n
Inspirada por tragédias como o suicídio de um adolescente em 2024 ligado a interações com chatbots, a empresa está desenvolvendo uma funcionalidade chamada iterative steering. Em vez de simplesmente bloquear temas nocivos, o sistema pode modificar dinamicamente as solicitações do usuário para orientar o chatbot a respostas mais empáticas e úteis, atuando como um "ouvinte ativo" e preventivo.
\n\n
Futuro da Moonbounce e visão sobre aquisições
\n
Levenson reconhece que a Moonbounce se encaixaria bem em gigantes como o Meta, seu antigo empregador, mas demonstra preocupação com a possibilidade de a tecnologia ser restrita a um único ecossistema após uma aquisição. Para ele, a disseminação ampla e o benefício coletivo são prioridades, mesmo diante da pressão dos investidores.
\n\n
Links úteis
\n