Riscos: alucinações, direitos autorais, privacidade e segurança de marca

5 minutos, 8 etapas, treino 6 de 6 do módulo

Um assistente de IA escreve a descrição de um produto em segundos e ninguém percebe que ela promete um recurso que o produto não tem ou repete uma frase do site de um concorrente. Quem descobre primeiro pode ser um cliente, um advogado ou um jornalista. Quem publica o que a IA gera sem uma etapa de revisão acaba gastando muito mais tempo pedindo desculpas do que economizou. Saber onde essas ferramentas erram faz parte de usá-las no trabalho.

O que você vai conseguir fazer

Ao final deste treino, você será capaz de nomear os quatro principais riscos da IA no marketing, colocar um custo em uma alegação falsa, e montar uma etapa de revisão que pega os problemas antes de serem publicados.

Um primeiro olhar: Os quatro riscos: alucinação, direitos autorais, privacidade, segurança de marca

Alucinação: o assistente afirma coisas que não são verdade, em tom confiante, com números, estudos, citações ou recursos de produto inventados. Direitos autorais: imagens ou textos que copiam o estilo de um artista vivo, o texto de um concorrente, uma marca registrada ou o rosto de uma pessoa real; e os termos da ferramenta que você usa, que decidem o que você pode publicar comercialmente. Privacidade: nomes, e-mails, endereços e detalhes de pedido de clientes colados em uma ferramenta de IA de consumo podem ser armazenados ou usados para treinamento; as regras de proteção de dados se aplicam ao que você cola, não só ao que você publica. Segurança de marca: conteúdo fora do tom, enviesado ou falso, como avaliações geradas, ou que as plataformas exigem que você rotule como feito por IA. Um princípio cobre os quatro. As pessoas pesam uma promessa quebrada muito mais do que uma cumprida. Isso é aversão à perda: uma alegação falsa custa mais confiança do que dez bons posts conquistam.

Exemplo: O cartão de regras da Corner Coffee, fixado acima de cada mesa: nenhum número sem fonte, nenhum prompt de "no estilo de", nenhum dado de cliente em prompts, nenhum post sem o nome de uma pessoa na aprovação.

O que este treino cobre

1Os quatro riscos: alucinação, direitos autorais, privacidade, segurança de marca
2Caso: A caixa de suporte da Northpack e o chatbot

Uma pergunta deste treino

Um assistente de IA rascunhou esta linha para a Green Garden Skincare: "Clinicamente comprovado para reduzir rugas em 40% em duas semanas." A marca nunca fez um estudo clínico. Antes de entrarmos nos riscos, qual é o problema aqui?

Nenhum, se parece plausível os clientes não vão checar
O assistente inventou um fato. A alegação precisa ser sustentada por evidência que você realmente tem, ou apagada
Só o número está errado; mude 40% para 20% e está resolvido
A responsabilidade é do assistente, já que foi ele que escreveu a frase

Escolha sua resposta primeiro e depois abra o raciocínio.

Ver a resposta e o raciocínio

Resposta: B. O assistente inventou um fato. A alegação precisa ser sustentada por evidência que você realmente tem, ou apagada

Isso é uma alucinação: o assistente produziu uma alegação confiante, específica e falsa porque é assim que anúncios de skincare costumam soar. Uma alegação que você não consegue sustentar é um problema legal e um problema de confiança, seja qual for o número. O erro mais comum é a opção c: suavizar o número. Um número inventado menor continua inventado. Quem publica é responsável, não a ferramenta.

As outras etapas funcionam do mesmo jeito: primeiro você decide, depois vê por que cada opção está certa ou errada.

Como você pratica aqui

1 cartão de conceito curto
2 perguntas de múltipla escolha
1 caso de campanha com números realistas
1 exercício de ordenar
1 exercício de associar
1 cálculo guiado
1 pergunta de revisão de um treino anterior