Avaliação da qualidade de REA

Last updated: November 14th, 2019

Avaliação da qualidade de REA

A qualidade dos recursos educacionais abertos tem preocupado a comunidade educacional e, em especial, as instituições que compõem as redes educacionais na área da saúde.

O que é qualidade?

Antes de compreender a necessidade de avaliar a qualidade de REA, precisamos compreender o que é qualidade:

Podemos entender qualidade como uma propriedade atribuída a um produto de acordo com um conjunto pré-estabelecido de dimensões e de critérios.

Por que avaliar a qualidade de REA?

Com o crescimento das redes na área da saúde e a diversidade dos recursos educacionais disponíveis, nem todos abertos (REA), nos deparamos com o desafio de garantir a qualidade do conteúdo, assim como o cumprimento dos cinco princípios de liberdades mínimas de REA, os “5Rs”, sistematizados por David Willey:

cinco Rs e=de abertura de REA

A Avaliação da qualidade é uma atividade que permeia todas as etapas do ciclo de produção de um recurso educacional e assume um aspecto multidimensional: presente em todas as etapas, com diversos enfoques, de caráter processual e multidisciplinar, com a participação de diversos atores.

Ciclo de produção de REA

O ciclo de produção é composto por 06 (seis) fases que vão desde o planejamento até o monitoramento e avaliação do recurso.

cinco Rs e=de abertura de REA

Planejamento

Nesta fase, define-se o problema educacional, contexto da aprendizagem, o público-alvo, as metas e os objetivos de aprendizagem, dentre outras características relevantes. É importante levar em consideração a instituição, implicações sobre o ambiente, recursos disponíveis (financeiro, infraestrutura, recursos humanos) e prazos para, então, definir as mídias a serem utilizadas ou produzidas, formato do curso (autoinstrucional, com tutoria ou híbrido), detalhando a forma de disponibilização dos conteúdos, atividades de avaliação, atualização e sustentabilidade do curso.

Desenvolvimento

Nesta fase é que efetivamente ocorre a produção dos materiais planejados anteriormente, implantação do material produzido no ambiente virtual de aprendizagem e testes de validação.

Depósito

Nesta fase, o recurso é incluído no repositório e os metadados descritos de acordo com os padrões adotados.

Publicação

Nesta fase verifica-se o preenchimento adequado de todos os metadados, pode haver uma nova validação e teste do recurso educacional para publicação no repositório.

Monitoramento

Aplica-se estratégias de monitoramento, como enquetes de satisfação, contagem de número de downloads, compartilhamentos, curtidas, rankeamento e alcance nas redes sociais.

Avaliação

Compreende a avaliação dos resultados das estratégias de monitoramento para recomendações de atualização do recurso educacional ou exclusão.

Atenção!

O resultado que se pretende obter com o processo avaliativo vai depender de questões específicas de cada recurso, tais como: características, contexto, público, instituição e política que definirá sobre como e em que momento a avaliação deve ser aplicada no âmbito de um processo.

Métodos e Instrumentos de avaliação

Antes de pensar em avaliação, é preciso conhecer os métodos que podem ser utilizados para avaliar um recurso educacional aberto, suas vantagens e desvantagens e instrumentos de avaliação.

Método Aplicado por Vantagens Desvantagens
Guias Equipo de produção Auxiliam a equipe no desenvolvimento Não há participação de pessoas externas (especialistas e usuarios)
Avaliação por especialistas Editores especialistas no tema Incorporam melhorias o recurso, incentiva o trabalho colaborativo Custo alto
Avaliação por usuário Usuários e alunos Sugestão de melhorias, adapatações, incentiva o trabalho colaborativo Conflito de interesses

Instrumentos de avaliação

Guias de orientação Formulários Testes de validação
Os guias de orientação são manuais práticos que contém orientações detalhadas sobre como aplicar os critérios ou como verificar. Os formulários de avaliação, survey ou checklists de verificação são desenvolvidos a partir dos critérios e indicadores definidos para auxiliar especialistas e usuários na avaliação do recurso. Os testes de validação são realizados por especialista técnicos e/ou por usuários baseados em roteiro pré-definido. O teste é aplicado a partir da observação do recurso e pode contar com um formulário para registro dos resultados.

Lembre-se!

Os métodos e instrumentos se sobrepõem de maneira complementar e combinados, possibilitam a avaliação das dimensões dos recursos educacionais

A avaliação deverá ser um processo transparente e contínuo segundo determinadas dimensões de qualidade. Tendo como referência a proposta de Belfer, K., Nesbit, J., & Leacock, T. (2003), apresentamos nove critérios:

Critérios Descrição
Qualidade de conteúdo refere-se ao nível de precisão e confiança do conteúdo, assim como também com a existência de parcialidades (preconceitos), erros e omissões.
Alinhamento com o objetivo de aprendizagem avalia o quanto o conteúdo e as atividades de aprendizagem estão alinhadas com os objetivos, e se os objetivos de aprendizagem estão de acordo com a proposta e objetivo do curso.
Feedback e adaptação confere a capacidade do recurso educacional de fornecer feedback e de se adaptar às necessidades do usuário. Tal adaptação pode estar relacionada com a localização do recurso de aprendizagem para uma cultura ou idioma específico, ou até mesmo com a capacidade de mudar a sua apresentação e conteúdo de acordo com um determinado estilo de aprendizagem do aluno
Motivação avalia a habilidade do recurso de aprendizagem em reter a atenção do usuário, ou seja, se o recurso é atrativo e gera interesse pelo tema que apresenta.
Design de apresentação refere-se à qualidade na apresentação do recurso e de todos os itens que o compõem (texto, audiovisual, animações, gráficos, ícones). A estrutura organizacional da informação propicia a efetiva identificação dos elementos presentes no recurso; o texto é legível e com uma formulação clara.
Usabilidade de interação avalia o quanto é fácil para o aluno a navegar no curso ou usar o recurso, Uma boa usabilidade irá apresentar um layout, estrutura consistentes e fácil navegação/utilização. Facilidade de contato com o professor e/ou suporte técnico. Compatibilidade com navegadores e disponibilidade de recursos para pessoas com poucos recursos tecnológicos.
Acessibilidade refere-se aos critérios para garantir que pessoas com deficiências visuais, auditivas e motoras possam acessar a informação sem dificuldade. As recomendações abordam desde o design de apresentação até a recomendações relativas ao código (HTML e CSS, por exemplo).
Reusabilidade verifica o potencial do recurso de aprendizagem ser utilizado em outros cursos e diferentes contextos. Questões como a granularidade e a abertura/licenças (openness) irão influenciar a reusabilidade do mesmo para diferentes cenários.
Conformidade com padrões Avalia se os campos de metadados associados ao recurso de aprendizagem seguem os padrões internacionais e se estão completos e devidamente descritos. Verifica também se os recursos estão de acordo com os padrões técnicos abertos podendo ser acessado independentemente de programas e formatos específicos e de vários dispositivos (computador ou dispositivos móveis).

Indicadores

Como visto anteriormente, existem aspectos que podem ser analisados para determinar a qualidade dos recursos educacionais abertos. Aqui sugerimos alguns indicadores que devem ser considerados em um processo de avaliação, sem excluir, entretanto, a possibilidade de adoção de outros de acordo com necessidades específicas.

Qualidade de conteúdo

  • O recurso apresenta detalhadamente o público-alvo e contexto a que se destina?
  • Os conteúdos apresentados no curso correspondem ao contexto e a realidade profissional do público-alvo?
  • O conteúdo é objetivo, com uma formulação equilibrada de ideias?
  • O conteúdo foi validado por algum comitê científico ou passou por revisão editorial por outros especialistas no assunto?
  • As informações e orientações apresentadas são aplicáveis no contexto de trabalho do público-alvo?
  • As informações apresentadas estão atualizadas?
  • A linguagem é adequada para o público de destino?
  • O conteúdo está cientificamente fundamentado com base em estudos, pesquisas, protocolos, consensos ou melhor prática clínica?
  • As fontes científicas dos principais conceitos e condutas recomendadas estão devidamente citadas?
  • As fontes são de origem amplamente reconhecida e com boa reputação?
  • O conteúdo apresenta palavras técnicas ou jargão desconhecidos pelo público-alvo?
  • As imagens utilizadas ajudam a entender os textos?
  • O recurso apresenta créditos dos autores e equipe que o desenvolveu (ficha técnica)?
  • O recurso menciona as parcerias envolvidas?

Alinhamento com o objetivo de aprendizagem

  • Os objetivos de aprendizagem estão alinhados com o currículo e/ou os objetivos da instituição?
  • Os conteúdos apresentados no curso correspondem ao contexto e a realidade profissional do público-alvo?
  • Os objetivos de aprendizagem estão apresentados de forma clara e objetiva?
  • O conteúdo apresenta coerência com os objetivos?
  • Os objetivos estão adequados ao público-alvo?
  • As atividades de fixação, avaliação possibilitam que o aluno alcance os objetivos definidos?

Feedback e adaptação

  • As avaliações fornecem feedback para o aluno?
  • Os Feedbacks das avaliações permitem a compreensão e a correção das respostas?
  • O recurso apresenta mensagens claras de alertas ou de erros?
  • O recurso é multi-idiomas?
  • O recurso apresenta o mesmo conteúdo em mídias diferentes (áudio, vídeo, texto)?
  • O recurso oferece possibilidade de contato com o professor?
  • O recurso pode ser acessado de diversos dispositivos?

Motivação

  • O recurso gera interesse no tema apresentado?
  • O recurso oferece recursos de interação?
  • Os textos são muito longos?
  • O recurso oferece algum tipo de recompensa, tais como selos ou medalhas, pela conclusão atividades?

Design de apresentação

  • Apresenta visual agradável e limpo?
  • Apresenta estrutura organizacional adequada (texto, menus e botões) e sempre no mesmo lugar?
  • Apresenta identificação eficaz dos elementos presentes no recurso (legendas, títulos, etc)?
  • Apresenta elementos gráficos legíveis e com cores adequadas (imagens, gráficos, mapas, fotos e ícones)?
  • Apresenta combinação de cores adequadas?
  • Apresenta material audiovisual com boa qualidade de imagem e som?
  • O conteúdo é legível?

Usabilidade de interação

  • O recurso permite o aluno controlar a navegação?
  • A navegação é padronizada, fácil e intuitiva?
  • O recurso apresenta ajuda facilmente acessível?
  • Consta menu ou links de acesso a estrutura de conteúdo do recurso?
  • No caso de baixa de arquivos ou acesso externo, os links estão acompanhados de descrições claras e precisas sobre o seu conteúdo, tamanho e formato?
  • Os links do recurso funcionam?
  • O recurso possibilita o aluno retornar ao conteúdo do ponto onde parou?
  • O recurso informa o aluno o estado atual de sua interação ou andamento da atividade?
  • O recurso oferece instruções de uso ou ajuda facilmente acessíveis?
  • O recurso oferece possibilidade de contato com a equipe técnica?

Acessibilidade

  • O recurso disponibiliza atalhos de teclado?
  • O recurso apresenta a barra de acessibilidade (aumentar/diminuir fonte e contraste)?
  • São fornecidas descrições para as imagens da página, utilizando-se o atributo alt?
  • O recurso apresenta descrição textual de imagens: imagens, gráficos, infográficos, desenhos, ilustrações, fotografias que tenham algum significado de forma a promover o completo entendimento da mensagem em seu contexto educacional?
  • O conteúdo do recurso é leve e carrega rápido?
  • O recurso pode ser acessado em mais de um Browser (navegador)?
  • Os documentos externos são disponibilizados em formatos abertos?
  • Os links de navegação estão organizados de forma clara e hierarquizadas em grau de importância?
  • Os vídeos possuem audiodescrição e legenda?

Reusabilidade

  • O recurso está registrado sob uma licença aberta?
  • Os recursos complementares estão autocontidos, ou seja, não depende de outros objetos e/ou recursos externos para serem utilizados?
  • A licença registrada permite restrição ao uso comercial?
  • O recurso é interoperável, ou seja, posso utilizar em outros ambientes virtuais de aprendizagem?
  • O recurso foi desenvolvido em formato aberto?
  • Os textos, documentos, imagens e demais mídias estão em formato aberto?

Conformidade com padrões

  • O recurso apresenta os metadados básicos? (Identificador título, idioma, descrição, palavra-chave, cobertura, estrutura, nível de agregação, versão, status, contribuintes, instituição, data)?
  • O recurso apresenta orientações sobre aspectos técnicos: formato, tamanho, localização, requisitos, comentários sobre instalação, requisitos para outras plataformas, duração?
  • O recurso apresenta informações sobre aspectos educacionais e pedagógicos associados, tais como: objetivo de aprendizagem, tipo de interatividade, tipo de recurso de aprendizagem, público-alvo, contexto, faixa etária, dificuldade, tempo previsto para aprendizagem, descrição e linguagem?
  • O recurso apresenta as condições de uso e licença?
  • O recurso apresenta as informações de relacionamento com outros REAS?

Como avaliar?

Para auxiliar o processo de avaliação, sugerimos utilizar o checklist disponível para donwload no link abaixo. Através deste, será possível visualizar todos os critérios e indicadores mencionados acima.

Download Checklist

Para relembrar

Recursos Educativos Abietos

Objetivo de aprendizagem:

Compreender o processo de avaliação da qualidade de REA, conhecer seus critérios, indicadores e como aplicá-los..

Lembre-se: A Avaliação da qualidade é uma atividade que permeia todas as etapas do ciclo de produção de um recurso educacional e assume um aspecto multidimensional: presente em todas as etapas, com diversos enfoques, de caráter processual e multidisciplinar, com a participação de diversos atores.

CICLO DE REA - CRITÉRIOS - INDICADORES

Parceiros

Patrocínio Patrocínio
Sistema de cursos

Campus Virtual Fiocruz:

Av. Brasil, 4365 - Manguinhos, Rio de Janeiro - CEP: 21040-900