Este workshop é uma atividade de validação e teste das guardrails do projeto Politutor. Desenvolvido por dois estudantes da ESTG, o Politutor é um assistente socrático para a área de informática com ligação aos conteúdos letivos.
Uma vez que as guardrails e outros aspetos de utilização ética e segura são fundamentais neste tipo de sistema, o evento irá abordar com os participantes a importância destes mecanismos. Seguir-se-á uma atividade prática na qual será dado acesso à ferramenta Politutor para que os participantes tentem fazer jailbreak do agente. Esta dinâmica permitirá recolher resultados sobre eventuais tentativas de jailbreak bem-sucedidas, com vista a posteriores melhorias do sistema.
Os principais objetivos do evento são:
Abordar, com os participantes, os aspetos fundamentais relacionados com a utilização segura e ética de sistemas de IA baseados em LLM;
Recolher dados para a validação dos mecanismos de guardrails da plataforma Politutor, como um passo decisivo para a sua eventual disponibilização futura à comunidade da ESTG.
ORADOR CONVIDADO
Davide Carneiro
DESTINATÁRIOS
Estudantes do Departamento de Informática
PARTICIPAÇÃO GRATUITA, SUJEITA A INSCRIÇÃO
