Logotipo Mydra
Artificial Intelligence
DeepLearning.AI logo

DeepLearning.AI

Qualidade e Segurança para Aplicações LLM

  • até 1 hora
  • Iniciante

Este curso aborda as preocupações críticas de segurança e qualidade em aplicações LLM. Aprenda a monitorar e aprimorar medidas de segurança, detectar e prevenir ameaças, e explorar cenários do mundo real para proteger suas aplicações LLM.

  • Medidas de segurança
  • Detecção de alucinações
  • Detecção de jailbreaks
  • Identificação de vazamento de dados
  • Sistemas de monitoramento

Visão Geral

Neste curso, você explorará novas métricas e melhores práticas para monitorar seus sistemas LLM e garantir segurança e qualidade. Você aprenderá a identificar alucinações, detectar jailbreaks e identificar vazamento de dados. Além disso, você construirá seu próprio sistema de monitoramento para avaliar a segurança e proteção do aplicativo ao longo do tempo. Ao final do curso, você será capaz de identificar preocupações comuns de segurança em aplicações baseadas em LLM e personalizar suas ferramentas de avaliação de segurança e proteção.

  • Web Streamline Icon: https://streamlinehq.com
    Online
    localização do curso
  • Layers 1 Streamline Icon: https://streamlinehq.com
    Inglês
    idioma do curso
  • Ao seu próprio ritmo
    formato do curso
  • Aulas Ao vivo
    entregue online

Para quem é este curso?

Desenvolvedores Python

Qualquer pessoa com conhecimento básico de Python interessada em mitigar problemas como alucinações, injeções de prompts e saídas tóxicas.

Entusiastas de IA

Indivíduos interessados em aprender sobre as preocupações de segurança e qualidade em aplicações LLM.

Cientistas de Dados

Profissionais que desejam aprimorar suas habilidades em monitorar e proteger aplicações LLM.

Este curso ajudará você a monitorar e aprimorar medidas de segurança para suas aplicações LLM. Aprenda a detectar e prevenir ameaças críticas de segurança e explore cenários do mundo real para se preparar para riscos potenciais. Ideal para desenvolvedores Python, entusiastas de IA e cientistas de dados.

Pré-Requisitos

1 / 1

  • Conhecimento básico de Python

O que vai aprender?

Introdução à Segurança e Qualidade em LLM
Visão geral da importância da segurança e qualidade em aplicações LLM.
Identificação de Alucinações
Métodos como SelfCheckGPT para identificar alucinações nas respostas de LLM.
Detecção de Jailbreaks
Usando análise de sentimento e modelos de detecção de toxicidade implícita para detectar jailbreaks.
Identificação de Vazamento de Dados
Técnicas como reconhecimento de entidades e análise de similaridade vetorial para identificar vazamento de dados.
Construindo um Sistema de Monitoramento
Como construir seu próprio sistema de monitoramento para avaliar a segurança e proteção do aplicativo ao longo do tempo.

Conheça seu instrutor

  • Bernease Herman

    Cientista de Dados na WhyLabs

Próximas turmas

  • Datas

    comece agora

Gratuito