Por que publicamos os evals junto com o modelo

Todo fornecedor de IA vai mostrar a você uma demonstração que funciona. A pergunta interessante é contra o que essa demonstração foi testada, e se você tem permissão para ver.

Publicamos o conjunto de avaliação antes de escolher um modelo. Não depois de o modelo estar pronto, como documentação, mas antes, como especificação. O conjunto vai para o seu repositório, com os rótulos, as divergências entre quem rotulou e as métricas de linha de base do que quer que você faça hoje. Se você decidir não seguir em frente, fica com ele. É o artefato mais útil do sprint de descoberta, aconteça o que acontecer depois.

Para que serve um conjunto de evals?

Três coisas. Primeiro, ele define o trabalho. “Triar sinistros de automóvel” não significa nada até você ter uns dois mil sinistros rotulados pelas pessoas que fazem o trabalho hoje, com aqueles em que elas discordaram marcados como tal. Segundo, ele define o que é estar pronto. Um limiar no conjunto de evals é o critério de aceite na declaração de escopo, e é um número, não um adjetivo. Terceiro, ele define o desvio. Quando a distribuição real se afasta do conjunto de evals, um alerta dispara e alguém rotula de novo. Esse alerta também é um entregável.

Por que os fornecedores não fazem isso?

Porque um conjunto de evals torna visíveis os limites do modelo, e limites são difíceis de vender. Uma demonstração num conjunto escolhido a dedo parece excelente; o mesmo modelo com o tráfego real do mês passado parece muito diferente, e é nessa distância que o projeto morre, meses depois de começar. Publicar o conjunto traz essa conversa para o início, quando ela é barata.

Quanto custa?

Alguns dias do tempo das suas pessoas mais experientes, para um conjunto de alguns milhares de exemplos, com orçamento dentro do sprint de descoberta. A rotulagem é feita pelos seus profissionais seniores, e não por nós, porque são eles que sabem. Nós desenhamos o protocolo, conduzimos as sessões e registramos as divergências, em vez de resolvê-las. As divergências são a parte mais informativa; mostram onde o modelo vai precisar de um humano de qualquer jeito.

É assim que começa todo projeto de IA e automação. Foi assim que começou também o caso do fabricante de móveis: os indicadores foram acordados por escrito antes de qualquer coisa ser construída.

Se um fornecedor não mostrar o conjunto de avaliação, pergunte contra o que ele está medindo o modelo. Se a resposta for uma demonstração, é a demonstração que você está comprando.