Professional Documents
Culture Documents
QUANTITATIVO
Mtodos de pesquisa em Cincias Sociais:
Bloco Quantitativo
Sesc So Paulo/CEBRAP
So Paulo, 2016
SUMRIO
ABERTURA
03 Danilo Santos de Miranda e Angela Alonso
APRESENTAO
08 Daniela Ribas Ghezzi e Jaime Santos Jnior
32 Introduo Amostragem
Murillo Marschner Alves de Brito
52 Questionrios on-line
Danilo Torini
A questo do mtodo
Esta publicao nasceu do encontro de duas instituies, o Servio Social do
Comrcio Sesc e o Centro Brasileiro de Anlise e Planejamento Cebrap. As
instituies tem cada qual sua especificidade, mas compartilham o compromis-
so em contribuir para a contnua compreenso e transformao da realidade
brasileira, seja por meio da ao sociocultural, com nfase na educao perma-
nente, seja mediante a pesquisa cientfica, com foco na formulao, implemen-
tao e avaliao de polticas pblicas. O tema das metodologias de pesquisa, a
que se refere esta publicao, nasce desta confluncia.
Angela Alonso
Presidente do Cebrap
Alexandre Abdal
Professor do Departamento de Gesto Pblica da Escola de Administrao
de Empresas de So Paulo da Fundao Getlio Vargas (GEP-FGV/EAESP) e
pesquisador do Centro Brasileiro de Anlise e Planejamento (Cebrap). Possui
formao em Cincias Sociais e Sociologia, com doutorado (2015), mestra-
do (2008) e graduao (2005) pela Faculdade de Filosofia, Letras e Cincias
Humanas da Universidade de So Paulo (FFLCH-USP). Trabalha com pes-
quisas nas reas de Sociologia do Desenvolvimento, Sociologia Econmica,
Economia Regional e Avaliao de Polticas Pblicas, com nfase nos seguin-
tes temas: desenvolvimento urbano e regional, cidades, planejamento regional
e urbano, inovao, conhecimento, mercado de trabalho e ensino superior.
autor do livro So Paulo, desenvolvimento e espao: a formao da Macrome-
trpole Paulista, pela editora Papagaio.
Autores
Danilo Torini
Coordenador de Pesquisa Pedaggica na Escola Superior de Propaganda e
Marketing (ESPM-SP) e pesquisador do Centro Brasileiro de Anlise e Planeja-
mento (Cebrap). Mestre em Sociologia pela Faculdade de Filosofia, Letras e Ci-
ncias Humanas da Universidade de So Paulo (FFLCH-USP) e ps-graduado
em Pesquisa de Marketing, Opinio Pblica e Mdia pela Fundao Escola de
Sociologia e Poltica de So Paulo, bacharel e licenciado em Cincias Sociais
pela USP. Tem como principais temas de pesquisa a transio escola-trabalho de
jovens no Brasil e as recentes transformaes na educao superior brasileira.
Mrcia Lima
Professora doutora do Departamento de Sociologia da Faculdade de Filoso-
fia, Letras e Cincias Humanas da Universidade de So Paulo (FFLCH-USP) e
pesquisadora snior associada ao Centro Brasileiro de Anlise e Planejamen-
to (Cebrap) e ao Centro de Estudos da Metrpole (CEM/Cebrap). editora
da Revista Brasileira de Informao Bibliogrfica em Cincias Sociais (BIB) e
membro da diretoria da Sociedade Brasileira de Sociologia, gesto 2015-2017.
Possui graduao em Cincias Sociais pela Universidade Federal do Rio de Ja-
neiro (1992), mestrado em Sociologia pelo Instituto Universitrio de Pesquisas
do Rio de Janeiro-IUPERJ (1994) e doutorado em Sociologia pela Universidade
Federal do Rio de Janeiro (2001). Realizou ps-doutorado na University of Co-
lumbia (2011-2012). Seus temas de investigao so: desigualdades sociais, de-
sigualdades raciais e de gnero, relaes raciais, educao, mercado de trabalho,
polticas de ao afirmativa no ensino superior e mulheres negras.
Murillo Marschner Alves de Brito
Professor do Departamento de Educao da Pontifcia Universidade Cat-
lica do Rio de Janeiro (Puc-Rio) e pesquisador do Centro Brasileiro de Anlise
e Planejamento (Cebrap) e do Centro de Estudos da Metrpole (CEM/Ce-
brap). Tem graduao em Cincias Sociais pela Universidade Federal de Mi-
nas Gerais (UFMG), mestrado pela mesma instituio em Sociologia e dou-
torado em Sociologia pela Faculdade de Filosofia, Letras e Cincias Humanas
da Universidade de So Paulo (FFLCH-USP). Sua agenda de pesquisa e suas
publicaes mais recentes circulam entre alguns temas principais, entre os
quais destacam-se: sociologia da educao, estratificao e mobilidade social,
sociologia do trabalho, desigualdades sociais e avaliao de polticas pblicas.
1 - Introduo
O objetivo deste texto tecer consideraes introdutrias acerca dos prin-
cpios bsicos que fundamentam a pesquisa quantitativa nas Cincias Sociais.
Espera-se que, ao final da leitura deste captulo, o/a leitor/a tenha apreendido
qual a especificidade da abordagem quantitativa nas Cincias Sociais e quais
so os aspectos imprescindveis para a boa conduo desse tipo de investigao.
10
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
H alguns aspectos que precisam ser ressaltados para que se possam des-
fazer equvocos bastante comuns quando nos dedicamos a discutir questes
metodolgicas nas Cincias Sociais. O primeiro equvoco a ser desfeito a
dicotomia entre teoria e pesquisa. Toda e qualquer pesquisa, mesmo as que
no so desenvolvidas no mbito acadmico, tem uma pergunta a ser respon-
dida. As pesquisas de carter estritamente acadmico s se tornam viveis
na medida em que selecionamos nossas observaes, orientados por algum
conceito especfico. A teoria nos ajuda a entender questes e a tomar decises
de pesquisa, nos auxilia na coleta de dados e no entendimento da natureza e
11
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
dos pressupostos de nossa investigao. Os mtodos, por sua vez, validam em-
piricamente nossas perguntas e nos ensinam a testar hipteses teoricamente
construdas.
1 Etnografia uma tcnica qualitativa de pesquisa que se caracteriza pelo nvel mais local de co-
nhecimento possvel e por um longo trabalho de descrio. Para isso, a presena do pesquisador
no campo deve ser longa, cotidiana para que possa captar com profundidade a complexidade das
prticas sociais dos pesquisados. Para essa discusso, ver Weber & Beaud (2014).
12
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
13
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
14
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
quisa em que um candidato tem 30% das intenes de voto, afirma-se que a
pesquisa tem uma margem de erro de 3 pontos percentuais para mais ou para
menos e 95% de confiana. Isso significa dizer que, com 95% de confiana, a
proporo dos eleitores que iro votar no candidato X encontra-se no interva-
lo de 30% +/- 3% (27% a 33%).
O vis de anlise pode ocorrer pela m interpretao dos dados ou por uma lei-
tura equivocada daquilo que foi realmente estimulado como questo de pesquisa.
Quando precisamos elaborar perguntas para um questionrio ou quando vamos
selecionar variveis de um banco de dados j existente, um truque interessante
perguntar: a qual questo esta resposta realmente responde? Um exemplo:
3. A pesquisa quantitativa
Nesta publicao, boa parte dos captulos dedica-se a discutir tcnicas de
coleta de dados para a anlise quantitativa. Nossa tarefa neste captulo de
abertura um pouco distinta daquelas dos captulos posteriores, pois ele tem
o objetivo de introduzir os desafios mais comuns construo de uma pes-
quisa em Cincias Sociais. Na primeira seo tratamos das especificidades
de produzir pesquisa em Cincias Sociais e da importncia de identificar os
possveis vieses produzidos pela posio do investigador das Cincias Sociais.
Nesta seo, nossos esforos se concentraro em caracterizar os princpios
norteadores da pesquisa quantitativa.
15
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
16
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
17
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
E1 E2 E3 E4 E5
01 R11 R12 R13 R14 R15
18
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
A renda uma varivel quantitativa que, a depender do modo como for coletada,
pode ser discreta ou contnua. A renda em valores absolutos (R$ 2.350,00) uma
varivel contnua. J a renda em salrios mnimos completos uma varivel discreta,
pois resulta de uma contagem. A varivel categrica nominal aquela que descre-
ve um atributo de uma unidade de observao sem que haja uma ordenao: cor/
raa e sexo so variveis categricas nominais. J as variveis categricas ordinais so
aquelas em que a ordenao faz parte da classificao. Em geral elas so utilizadas
em escalas de Likert (concorda totalmente, parcialmente, discorda totalmente, par-
cialmente) ou so fruto de classificaes posteriores. Retomemos aqui o exemplo da
renda. A renda tanto como varivel contnua quanto como varivel discreta pode
ser transformada em varivel ordinal. Basta, para isso, recodificar a renda em alta,
mdia e baixa. Mas essa seria uma varivel construda segundo critrios estatsticos.
20
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
21
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
2 A varivel ocupao a principal varivel utilizada pelos estudos de classe e mobilidade social.
A classificao ocupacional realizada de modo a tornar compatveis os estudos internacionais
sobre o tema. No caso brasileiro, a Classificao Brasileira de Ocupaes (CBO) feita pela Con-
cla (Comisso Nacional de Classificao) e segue os princpios da International Standard Classi-
fication of Occupations (ISCO). O Ministrio do Trabalho e Emprego responsvel pela gesto e
manuteno da Classificao Brasileira de Ocupaes.
3 A classificao EGP de ocupaes refere-se aos autores Robert Erikson, John H. Goldthorpe e
Lucienne Portocarero, que publicaram, em 1979, o artigo Intergenerational class mobility in Three
Western European societies: England, France and Sweden, no The British Journal of Sociology.
22
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
s Gerentes qualificados
s Supervisores qualificados
s Trabalhadores qualificados
s Gerentes no qualificados
s Supervisores no qualificados
s Trabalhadores no qualificados
Fonte: Santos, Jos Alcides Figueiredo, 1998.
4 http://www.abep.org/criterio-brasil.
23
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
Fonte: http://www.abep.org/codigos-e-guias-da-abep.
24
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
4. O questionrio
A parte final deste captulo se dedica a chamar a ateno do leitor para
mais uma importante etapa da pesquisa quantitativa. Uma vez escolhidos os
indicadores que iro operacionalizar nossos conceitos, como traduzi-los em
perguntas de um questionrio? Conforme apontado anteriormente, o dado
de pesquisa uma construo que comea com a produo de estmulos, ou
seja, com a definio das perguntas que devem ser feitas. Se no temos boas
perguntas (seja em um questionrio estruturado, seja em um roteiro de entre-
vistas), os resultados da investigao ficaro comprometidos.
25
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
Fonte: http://censo2010.ibge.gov.br/images/pdf/censo2010/questionarios/questionario_
amostra_cd2010.pdf.
26
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
Fonte: http://pesqele.tse.jus.br/pesqele/publico/CarregarArquivoQuestionario.
abrir?id=20465.
27
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
5 Esse instrumento faz parte do KIT FORMATURA do curso SUPERA, promovido pela Secretaria
Nacional de Polticas sobre Drogas SENAD, do Ministrio da Justia, e executado pela Uni-
versidade Federal de So Paulo UNIFESP. http://www.supera.senad.gov.br/pluginfile.php/62085/
mod_resource/content/3/Assist.pdf.
28
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
2. Durantes os trs ltimos meses, com que frequncia voc utilizou essa(s)
substncias que mencionou? (primeira droga, depois a segunda droga)
Diariamente/
1 ou 2 Mensal- Sema-
Nunca quase todos
vezes mente nalmente
os dias
a. derivados de tabaco 0 2 3 4 6
b. bebidas alcolicas 0 2 3 4 6
c. maconha 0 2 3 4 6
d. cocana, crack 0 2 3 4 6
e. anfetaminas ou xtase 0 2 3 4 6
f. inalantes 0 2 3 4 6
g. hiponticos/sedativos 0 2 3 4 6
h. alucingenos 0 2 3 4 6
i. opioides/opiceos 0 2 3 4 6
j. outras (especificar) 0 2 3 4 6
Fonte: Adaptao e validao para o Brasil por HENRIQUE, I. F. S. et al. Validao da verso
brasileira do teste de triagem do envolvimento com lcool, cigarro e outras substncias (AS-
SIST). Rev. Assoc. Med. Bras., 50:199-206 (2004).
29
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
5. Consideraes finais
Este texto, de carter introdutrio, destacou os principais aspectos do for-
mato de uma pesquisa quantitativa que permitem ao/ leitor(a) dar incio a
um aprendizado mais especfico das tcnicas que envolvem esse tipo de abor-
dagem. Como consideraes finais, alguns aspectos ganharo nfase com o
intuito de chamar ateno para as principais questes tratadas no texto.
6. Referncias bibliogrficas
BABBIE, E. Mtodos de pesquisa de survey. Belo Horizonte: Ed. UFMG,
2003.
30
INTRODUO AOS MTODOS QUANTITATIVOS EM CINCIAS SOCIAIS
31
INTRODUO AMOSTRAGEM
1. Introduo
A utilizao de mtodos de amostragem algo muito frequente em nosso
cotidiano. Amostrar nada mais do que utilizar informaes sobre parte de
um universo para inferir caractersticas sobre a totalidade do universo. Assim,
quando ouvimos de nossos amigos que certo restaurante excelente, vamos at
o restaurante e escolhemos um entre vrios pratos do cardpio para testar se
o restaurante de fato bom ou no. Dependendo do que achamos do prato,
confirmamos ou no a hiptese de que o restaurante bom, a partir de uma
amostra do cardpio.
32
INTRODUO AMOSTRAGEM
Muitas vezes uma aproximao dos parmetros de interesse pode ser o su-
ficiente para os objetivos da investigao, e a obteno de uma amostra (e no
um levantamento censitrio) pode ser muito menos dispendiosa trata-se de
pensar em um equilbrio entre a preciso necessria das estimativas e o custo
de pesquisa necessrio para sua obteno.
Alguns so mais diretos em afirmar que h duas razes principais para que
se adotem procedimentos de amostragem em vez de levantamentos censit-
rios: tempo e custo (Babbie, 1999). No h dvida de que os custos de aplica-
o de um questionrio a uma amostra dos domiclios do estado de So Paulo
de, digamos, 50.000 domiclios sero muito menores do que os de um levan-
33
INTRODUO AMOSTRAGEM
34
INTRODUO AMOSTRAGEM
3. Conceitos bsicos
Ao descrevermos a generalidade da existncia de procedimentos amostrais
(como eles so frequentes no nosso dia a dia) e apresentarmos algumas das
razes pelas quais a utilizao de procedimentos de amostragem vantajosa,
j trouxemos alguns dos conceitos bsicos que devem ser tomados em consi-
derao quando da definio de procedimentos de amostragem.
35
INTRODUO AMOSTRAGEM
36
INTRODUO AMOSTRAGEM
4. Tipos de amostra
Uma vez que o pesquisador define os dados que devero ser recolhidos e o
instrumento (questionrio estruturado, por exemplo) a utilizar para a coleta,
o passo seguinte consiste em definir um processo de amostragem adequado
ao tipo de dados e aos interesses da pesquisa.1
1 A discusso sobre os tipos de procedimento amostral que apresentamos aqui baseia-se fun-
damentalmente em Slonim (1969), Parsons (1974), Richardson (1985), Triola (1999), Babbie (1999) e
Bussab e Morettin (2010). Trata-se de uma leitura generalista dessa discusso, que de maneira al-
guma apresenta seus termos de forma exaustiva. Mesmo entre esses autores existem variaes
sutis na construo das tipologias, e ao leitor interessado em aprofundar-se nessas questes
recomenda-se o recurso a essas referncias.
37
INTRODUO AMOSTRAGEM
38
INTRODUO AMOSTRAGEM
39
INTRODUO AMOSTRAGEM
40
INTRODUO AMOSTRAGEM
41
INTRODUO AMOSTRAGEM
42
INTRODUO AMOSTRAGEM
43
INTRODUO AMOSTRAGEM
44
INTRODUO AMOSTRAGEM
45
INTRODUO AMOSTRAGEM
5 No se discutir aqui o estudo das situaes de desvio nas Cincias Sociais. Interessados
podem ver, por exemplo, a discusso que Howard Becker faz das amostras no probabilsticas
em Segredos e truques de pesquisa (1998) e o interessante estudo sobre o estigma de Erving
Goffman (1963).
46
INTRODUO AMOSTRAGEM
47
INTRODUO AMOSTRAGEM
5. Consideraes finais
Neste captulo buscamos apresentar a pesquisadores alguns dos conceitos
bsicos em amostragem e em construo de bases de dados. Tambm foi in-
teno do captulo evidenciar como a definio de desenhos de amostragem
de estudos e a estruturao de bases de dados depende diretamente do dese-
nho da pesquisa, de seus objetivos e das perguntas que pretende responder.
No h desenho amostral correto ou incorreto, mas desenhos amostrais mais
ou menos adequados aos objetivos da pesquisa.
48
INTRODUO AMOSTRAGEM
6. Referncias bibliogrficas
ABDAL, A.; NAVARRA, J. Uni por Uni escolhi a que era do lado da minha
casa Deslocamentos cotidianos e o acesso, a permanncia e a fruio da uni-
versidade por bolsistas do ProUni no Ensino Superior privado. Novos estudos
Cebrap, n 99, 2014.
49
INTRODUO AMOSTRAGEM
50
INTRODUO AMOSTRAGEM
51
QUESTIONRIOS ON-LINE
Questionrios on-line
Danilo Torini
Pesquisador do Cebrap e Coordenador
de Pesquisa Pedaggica na ESPM
1. Introduo
O advento da chamada web 2.0,1 em meados dos anos 2000, passou a per-
mitir de forma mais significativa a colaborao dos internautas na produo
de contedos em sites e servios virtuais, bem como a intensa troca de infor-
maes entre os usurios da internet. nesse contexto de desenvolvimento da
Tecnologia da Informao que est inserida a disseminao de uma nova for-
ma de coleta de dados pela internet: a dos formulrios e questionrios on-line.
Embora a ideia de levantar informaes dos usurios seja to antiga quanto
a prpria existncia da rede mundial de computadores, bastante recente a
expanso e popularizao de servios que permitem a qualquer pessoa, com
conhecimento tcnico mnimo, criar os seus prprios documentos on-line,
compartilh-los com os demais usurios e at mesmo coletar informaes
acerca de outras pessoas. Tudo de forma virtual. Essa tarefa se tornou ainda
mais fcil com a expanso da chamada computao em nuvem, cujo grande
diferencial a capacidade de armazenar virtualmente dados e documentos em
grande escala, sem que isso esteja necessariamente guardado fisicamente e
ocupando a memria de qualquer dispositivo dos usurios.
1 O termo web 2.0 comumente utilizado para descrever a chamada segunda gerao da
internet, caracterizada, principalmente, pela possibilidade de troca de informaes e cola-
borao de usurios na elaborao de contedos em sites e outros servios virtuais. Dife-
rentemente dos primeiros anos de utilizao da internet, hoje qualquer internauta pode gerar
contedos na rede, por meio de sites, blogs, redes sociais, repositrios de autoria coletiva
(como o caso da enciclopdia on-line Wikipedia) e muitas outras ferramentas colaborativas
disposio.
52
QUESTIONRIOS ON-LINE
53
QUESTIONRIOS ON-LINE
54
QUESTIONRIOS ON-LINE
2 O fato de o questionrio on-line ser preenchido pela internet propicia vantagens e desvan-
tagens ao pesquisador, alm de supor um conhecimento tcnico mnimo de ferramentas de
internet seja para o pesquisador, seja para o pesquisado. O domnio dessas tcnicas, em
especial, pode representar um grande desafio para determinados perfis de respondentes.
Esses e outros pontos sero discutidos com mais detalhes na seo 4.
55
QUESTIONRIOS ON-LINE
56
QUESTIONRIOS ON-LINE
57
QUESTIONRIOS ON-LINE
58
QUESTIONRIOS ON-LINE
59
QUESTIONRIOS ON-LINE
60
QUESTIONRIOS ON-LINE
Assim que for encerrado o perodo de coleta dos dados, tem-se um banco
de dados completo com todas as respostas registradas. Geralmente, a cada
opo de resposta do questionrio atribudo um cdigo numrico no banco
de dados, para facilitar o processamento estatstico. Na maioria dos servios
hoje disponveis, h a opo de baixar os dados em um arquivo compatvel
com programas de anlise estatstica, como o Excel, SPSS, Matlab, SAS, R,
Stata, entre outros.
4 Esse recurso est disponvel nas plataformas Google Formulrios, Survey Monkey, Qualtri-
cs e Survio.
61
QUESTIONRIOS ON-LINE
Por fim, nos casos em que o questionrio aplicado em papel, uma nova
etapa de processamento ainda necessria: a digitao das respostas na base
de dados. No entanto, essa etapa no existe na aplicao do questionrio on
-line, j que tudo registrado automaticamente. O quadro a seguir resume o
caminho a ser percorrido desde a elaborao das perguntas do questionrio
at a sua transformao em variveis no banco de dados.
A prxima seo vai retomar com mais detalhes algumas dessas etapas, a
fim de discutir as principais vantagens e desvantagens da utilizao dos ins-
trumentos on-line, em comparao com a realizao de entrevistas com ques-
tionrios de papel.
62
QUESTIONRIOS ON-LINE
Alcance global Uma vez que utiliza a web para o seu preenchimento
ou autopreenchimento, os questionrios on-line permitem, ao menos em
tese, o alcance potencial de respondentes em qualquer parte do planeta,
desde que haja uma conexo de internet disponvel.
63
QUESTIONRIOS ON-LINE
64
QUESTIONRIOS ON-LINE
5 E-mail marketing o termo mais utilizado para definir o conjunto de ferramentas de en-
vio automtico de e-mail para uma lista extensa de contatos. Por meio de planilhas com os
dados dos destinatrios, a ferramenta envia um texto-padro para a lista de contatos, per-
sonalizando a mensagem com o nome da pessoa que ir receb-la. Trata-se de um recurso
muito utilizado como estratgia de marketing direto por grandes redes de vendas no varejo
ou prestadores de servios. H ferramentas disponveis no mercado capazes de enviar au-
tomaticamente uma mesma mensagem para dezenas ou centenas de milhares de pessoas.
65
QUESTIONRIOS ON-LINE
vista (Gil, 1999; Babbie, 2005; Malhotra, 2006). Esse tipo de recurso no
possvel na realizao de uma pesquisa com questionrios on-line, em que
h, de fato, um distanciamento muito maior com quem est respondendo
s questes.
66
QUESTIONRIOS ON-LINE
6 De acordo com os dados da Pnad 2013, apenas 33,8% das pessoas com renda familiar per
capita de at meio salrio mnimo e 34,5% das pessoas com at 7 anos de estudo acessam a
internet no Brasil. Alm disso, enquanto o acesso internet atinge 75,7% dos jovens de 15 a
17 anos, ele apenas de 12,6% na faixa etria acima de 60 anos.
67
QUESTIONRIOS ON-LINE
68
QUESTIONRIOS ON-LINE
69
QUESTIONRIOS ON-LINE
70
QUESTIONRIOS ON-LINE
71
QUESTIONRIOS ON-LINE
72
QUESTIONRIOS ON-LINE
73
QUESTIONRIOS ON-LINE
74
QUESTIONRIOS ON-LINE
7. Referncias
BABBIE, E. Mtodos de pesquisas em survey. Belo Horizonte-MG: Editora
UFMG, 2005.
75
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Introduo
Este captulo est organizado em trs partes.
1 Este captulo apresenta pesquisas desenvolvidas pelo Ncleo de Cidadania, Sade e De-
senvolvimento do Cebrap entre 2001 e 2015: Polticas pblicas de sade e participao
social na cidade de So Paulo; Trajetrias das desigualdades no Brasil e Equidade e
contratualizao de servios no SUS, financiadas pela Fundao de Amparo Pesquisa do
Estado de So Paulo (FAPESP) processos 2011/20641-5 e 2013/07616-7. As opinies, hipte-
ses e concluses ou recomendaes expressas so de responsabilidade da autora. Agra-
deo a generosa contribuio de Edgard Fusaro, estatstico e pesquisador do Seade e do
CEM; juntos ministramos a Oficina Metodolgica que deu origem a este captulo. Agradeo
tambm Alexandre Ferraz, Marina Barbosa, Maria Carolina Oliveira e Alexandre Abdal pela
colaborao na preparao da oficina e dos originais.
76
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Com este trabalho espero contribuir para deixar mais clara a conexo en-
tre as metodologias de pesquisa, apresentadas, em muitos cursos, a partir de
uma perspectiva excessivamente terica, e o processo de pesquisa propria-
mente dito. Ao mostrar como fui me apropriando de diferentes metodologias
para responder s variadas questes com que tenho trabalhado, quero chamar
ateno para a importncia de o pesquisador se apropriar do seu objeto de
estudo, refletir sobre as perguntas que pretende responder, avaliar os recur-
sos disponveis e, sobretudo, tomar as decises que julgar adequadas, mesmo
quando elas forem pouco usuais e envolverem algum risco. Com isso, convido
o leitor a fazer o mesmo, isto , a refletir com liberdade sobre que metodolo-
gias que podem ajud-lo a enfrentar seus problemas de pesquisa.
Perspectivas de avaliao
Imagino que ao ler o ltimo pargrafo o leitor tenha-se perguntado: como
so feitas essas avaliaes? Afinal, como definir se os recursos para a poltica
cultural, de sade ou de educao so adequados e, ainda, como aferir se essas
polticas so efetivas? Para responder a essas questes temos que comear dis-
tinguindo avaliao de insumos, de processo e de resultado.
78
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
79
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Como avaliar
Como se aferem os indicadores utilizados para medir a adequao entre in-
sumos e produtos? E a eficincia, a eficcia ou efetividade de uma poltica? H,
em cada poltica, indicadores universais para avaliar processo e resultado?
80
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Outro cuidado a ser tomado levar em conta o contexto em que essas in-
formaes so produzidas. Por exemplo, quando se busca comparar os nveis
de emprego em diferentes localidades devem-se levar em conta as diferenas
no grau de formalizao do mercado de trabalho, pois se isso no for feito
pode-se chegar a concluses pouco condizentes com a realidade. Quando h
pouca confiana nos dados disponveis ou se necessita de informaes no
disponveis nos sistemas oficiais, deve-se considerar a possibilidade de fazer
pesquisa primria para levantar os dados.
81
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
O que avaliar
No ano de 2001 foram criados, no municpio de So Paulo, centenas de
conselhos nas unidades de sade, dezenas de conselhos nas subprefeituras,
alm de se ter buscado dinamizar o Conselho Municipal de Sade. O leitor j
ouviu falar desses conselhos?
2 Nesses conselhos, 50% dos participantes representam a sociedade civil, 25% representam
os prestadores de servios e 25% representam os gestores pblicos.
82
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
83
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Essa pesquisa se desdobrou em vrias etapas. Nesta seo falarei apenas da par-
te da pesquisa dedicada questo quem estava participando, enfocando como
lidamos com a questo da incluso e representatividade dos conselhos locais.
3 Um formulrio-padro foi elaborado a fim de nortear a coleta e a anlise dos dados nessas
minutas
4 Esses questionrios esto disponveis em: http://www.centrodametropole.org.br/dados/
saude/questionario_conselheiros_gest_logos.pdf e http://www.centrodametropole.org.br/
dados/saude/questionario_conselheiros_usu_logos.pdf.
84
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
A seguir tomo a varivel gnero para explicar de forma mais detalhada como
procedemos. Inicialmente definimos que conselhos que espelhassem a distribui-
o de gnero da populao deveriam ser considerados como mais representati-
vos, tendo sido estipulada uma margem de 20% de tolerncia. A Tabela 1 mostra
a distribuio de gnero na subprefeitura, a distribuio de gnero presente nos
conselhos das 6 subprefeituras selecionadas e o valor assumido pelo indicador (1
= similar; 0 = discrepante). Por exemplo, no conselho da Casa Verde 90% dos con-
selheiros so do sexo feminino, enquanto na subprefeitura 52,5% dos moradores
so mulheres. Ou seja, dada a margem de 20% de tolerncia, consideraramos que
nesse conselho est espelhada a distribuio de gnero da populao residente na
subprefeitura se at 63% dos conselheiros fossem mulheres. Como esse valor era
de 90%, consideramos que esse conselho no espelha a distribuio de gnero
presente na subprefeitura e atribumos o valor zero a esse indicador.
85
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Resultados
Procedimentos semelhantes foram realizados para as outras cinco variveis
consideradas na dimenso incluso e representao: cor, educao, renda, di-
versidades associativa e poltica. Ou seja, definimos o critrio, encontramos
uma forma de operacionalizar a aferio desse critrio e recorremos lgica
binria, atribuindo o valor 1 para indicar quando essa varivel contribua para
ampliar a incluso e representatividade (de acordo com os critrios constru-
dos a partir da reviso bibliogrfica) e zero quando no contribua. Com isso,
pudemos somar o valor atribudo a cada varivel, o que nos permitiu agre-
gar dimenses muito diferentes e chegar a uma concluso sobre quais subpre-
feituras eram, segundo nossos critrios, mais inclusivas. A Tabela 2 apresenta
os valores atribudos a cada uma dessas variveis nos 6 Conselhos Locais estu-
dados, com achados mais positivos codificados como 1.
86
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Sabemos que entre 1980 e 2010 a taxa de mortalidade infantil no Brasil caiu
de 69,1 para 16 por 1.000 nascidos vivos. Com relao expectativa de vida, o
pas tambm registrou expressivos ganhos, com a taxa passando de 62,6 anos,
em 1980, para 73,4 anos, em 2010. H, no entanto, evidncias de que as desi-
gualdades em sade permaneceram expressivas. Nos anos 1990, a probabili-
dade de uma criana negra falecer antes de completar um ano de vida era 1,8
vez maior do que a de uma criana branca, enquanto a mortalidade materna
5 Os resultados desse trabalho podem ser encontrados em Vera Schattan Ruas Pereira Coe-
lho (2011). Disponvel em: http://www.scielo.br/pdf/nec/n86/n86a07.pdf.
6 www.fflch.usp.br/centrodametropole/.
87
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
entre mes negras era 3,6 vezes mais elevada que aquela entre as mes brancas
(Cunha, 2008). Segundo Menegolla (2008), a mortalidade infantil entre crian-
as indgenas era o dobro daquela registrada para crianas brancas, enquanto
a incidncia de tuberculose entre indgenas era trs vezes mais elevada do que
para a populao total. Diante desse quadro, a primeira questo que quera-
mos responder era: as desigualdades em sade esto diminuindo?
Como avaliar?
Para levar a pesquisa adiante examinamos um conjunto de dados demo-
grficos e de sade para os anos de 1980 a 2010 disponibilizados por IBGE,
Instituto de Pesquisas Econmica Aplicada (Ipea), Programa das Naes Uni-
das para o desenvolvimento (PNUD) e DATASUS para as regies, estados e
municpios. A escolha dessas unidades de anlise em detrimento dos indi-
vduos se deu tanto em funo da limitada disponibilidade de informaes
sobre mortalidade fornecidas pelos Censos Demogrficos quanto pelas difi-
culdades para realizar clculos diretos das taxas de mortalidade.
Para avaliar a contribuio das diferentes polticas para a reduo das de-
sigualdades de sade recorremos anlise de regresso linear mltipla. Esses
modelos buscam aferir a intensidade e a direo da relao linear entre vari-
veis quantitativas. Foram construdos, para cada um dos anos do Censo (1980,
1991, 2000 e 2010), modelos que tomaram como variveis dependentes a taxa
de mortalidade infantil (Datasus) e a esperana de vida ao nascer (IBGE). Em
termos de variveis independentes foram utilizadas informaes sobre infra-
estrutura e saneamento (cobertura de gua e esgoto por rede geral Censo
Demogrfico, IBGE), caractersticas econmicas e sociodemogrficas (tama-
nho da populao, renda mdia, desigualdade da renda domiciliar per capi-
ta, escolarizao Censo Demogrfico, IBGE) e servios de sade (nmero
de mdicos por 1.000 habitantes Pesquisa de Assistncia Mdico-Sanitria,
IBGE e cobertura do Programa de Sade da Famlia e estabelecimentos de
sade que no fazem internao por 1.000 habitantes DAB, MS).
88
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Resultados
O Grfico 1 mostra a evoluo das taxas de mortalidade infantil nas cinco
grandes regies brasileiras e permite constatar a expressiva queda das desi-
gualdades regionais. Comparando a regio que historicamente apresenta os
piores indicadores de mortalidade infantil (Nordeste) com aquela de melho-
res ndices (Sul), observa-se que entre 1980 e 2010 a relao entre as taxas
mdias da primeira e da segunda caiu de 2,4 para 1,6, o que equivale a uma
queda de 33%.
Grfico 1 Taxa de mortalidade infantil (por 1.000 nascidos vivos). Regies brasileiras,
1980 a 2010
7 Nos dois tipos de modelo, foram acrescentados efeitos fixos para os 27 estados. Todas as
variveis foram centralizadas nos valores mdios observados em cada um dos anos censit-
rios, com o intuito de verificar se valores altos de determinadas caractersticas explicativas
estavam associados a patamares mais baixos ou mais elevados da mortalidade e da espe-
rana de vida.
89
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Entre os municpios (ordenados pela renda per capita nas tabelas 3 e 4 ) tam-
bm ocorreu melhora acentuada nesse indicador, acompanhada de pequena
reduo das desigualdades. Entre 1980 e 2000, os municpios com maior renda
per capita tiveram maior reduo da taxa de mortalidade infantil que os muni-
cpios com menor renda, situao que se inverteu na dcada de 2000. Graas a
essa inverso, em 2010 havia decrescido a desigualdade entre municpios.
Fonte: Ipeadata; Programa das Naes Unidas para o Desenvolvimento PNUD. Elabora-
o: tabulaes especiais do CEM/Cebrap.
8 Em cada perodo, ordenamos a totalidade dos municpios pela renda mdia per capita, e os
dividimos em quartos. Na tabela apresentamos apenas o primeiro (municpios mais pobres)
e o ltimo desses quartos (municpios mais ricos). A composio desses quartos muda ao
longo do tempo, no apenas porque novos municpios foram criados mas tambm porque os
municpios podem mudar de posio no ordenamento de um ano para outro.
90
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
difcil aceitar alguns desses resultados, como, por exemplo, aquele que
sugere no haver associao entre a expanso da oferta de servios pblicos de
sade e a queda na taxa de mortalidade infantil. Eles confirmam, no entanto,
os achados de boa parte dos estudos que analisaram essa relao.9 Nessa linha,
Martin et al. (2008: 827) comentam: Enquanto uma associao robusta entre
melhores indicadores de sade e fatores socioeconmicos tem sido identifi-
cada de forma recorrente, tornou-se um tema persistente na literatura o fato
de essa associao no aparecer quando se analisa a relao entre a oferta de
servios de sade e os indicadores de sade.
Para lidar com esse e outros limites foram sendo desenvolvidos novos mto-
dos de avaliao. A Pesquisa 2, relatada a seguir, apresenta um desses mtodos.
9 McGuire (2006) cita como excees que encontraram uma associao positiva entre inves-
timento em sade pblica e reduo da mortalidade infantil os seguintes estudos: Przeworski
et al. (2000), Rajkumar e Swaroop (2002), Gupta et al. (2003) e Wagstaff (2003).
91
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Na rea da sade, assim como em vrias outras reas, tem sido proposta a
contratao de Organizaes Sociais (OSs), ou outras organizaes sem fins
lucrativos, como forma de promover a melhora dos servios pblicos. Argu-
menta-se que essas organizaes passariam a concorrer entre si para fornecer
servios especficos predefinidos pelas autoridades governamentais e que essa
concorrncia seria benfica para os usurios. Argumenta-se, tambm, que as
OSs, alm de disporem de maior flexibilidade para gerir e prestar servios,
trariam maior flexibilidade gesto pblica na medida em que ela poderia,
com maior facilidade, renovar contratos com bons fornecedores e cancel-los
com aqueles que apresentam resultados insatisfatrios.
92
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Como avaliar
Para definir os critrios que permitiriam avaliar os impactos na ateno bsica da
contratao de OSSs, ou outras entidades sem fim lucrativo, pelo SUS, buscamos, na
literatura, estudos indicando os impactos esperados e observados a partir da imple-
mentao de programas de ateno bsica (Shy, 2012).
Para levar esse estudo adiante utilizamos dados fornecidos por Ministrio da Sade,
Agncia Nacional de Sade Suplementar (ANS), IBGE e Seade. Utilizamos dados re-
ferentes aos 645 municpios do estado de So Paulo. Esses municpios foram divididos
em dois grupos: os que tm 10% ou mais dos seus profissionais de sade em Ateno
Bsica contratados por Organizaes Sociais de Sade (OSSs) e, como o grupo contro-
le, aqueles que tm menos de 10% dos seus profissionais de sade em Ateno Bsica
contratados por OSSs. A anlise dos dados cobre dois perodos: 2001-2004 (anterior
contratao) e 2005-2012 (posterior ao tratamento).11 Portanto, considerou-se que
nenhum dos municpios foi afetado pelo tratamento no ano de 2004.
11 A medida de contratao indireta para a criao dos dois grupos de municpios s apresenta da-
dos disponveis para o perodo de 2009 a 2012. Trabalhamos, assim, com a suposio de que a difuso
da contratao indireta comea, de fato, a ganhar fora a partir das gestes municipais que come-
aram em 2005 e que nenhum dos municpios foi afetado pelo tratamento no ano de 2004. A deciso
de trabalhar com 2005 se baseou na ampliao do uso, pela Secretaria Municipal de Sade de So
Paulo, de convnios a partir de 2001 e de contratos de gesto a partir de 2005 (Dowbor e Houtzager,
2014; Coelho, 2014) e na difuso desses modelos para outros municpios (Coelho, 2015). Todos os mo-
delos com pr-observaes de 2002 foram estimados e os resultados foram praticamente os mesmos
quando se escolheu 2002 ou 2004 como ano anterior ao incio da contratao indireta.
93
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Elaborao prpria.
Elaborao prpria.
94
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Grfico 3 Consultas de atendimento primrio por usurio do SUS por status de tratamen-
to contratao (CO) e no contratao (sem CO). Mdias mveis, 2002-2011
Fonte: Elaborado por Vera S. Coelho e Jane Greve para a pesquisa Equidade e contratuali-
zao de servios no SUS, NCD/Cebrap.
Fonte: Elaborado por Vera S. R. P Coelho e Jane Greve para a pesquisa Equidade e contra-
tualizao de servios no SUS, NCD/Cebrap.
95
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Vrios testes foram feitos para corroborar esse achado, o que nos permitiu
testar a hiptese de tendncia comum e assim validar a estratgia da diferen-
a-em-diferenas.
Resultados
O modelo de diferena-em-diferenas mostrou que a contratao de OSSs
na ateno bsica no estado de So Paulo contribuiu para um aumento, respec-
tivamente, de 1,1 e 1,4 consulta por usurio do SUS ao ano para os modelo 1 e
2. A estimativa por ponto tambm indicou um efeito redutor na mortalidade e
na internao por causas sensveis ateno bsica. Entretanto, essas estimati-
vas pontuais so pequenas e poucas apresentam significncia estatstica. Esses
resultados so apresentados na Tabela 6, abaixo. Os resultados para mortalidade
infantil e na infncia e a internao de crianas esto em logs, sendo possvel
interpret-los como mudanas na porcentagem desses ndices.
96
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
97
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
Bibliografia
ANGRIST, J. D.; PISCHKE, J. S. Mostly harmless econometrics. Princeton e
Oxford: Princeton University Press, 2009.
98
ABORDAGENS QUALITATIVAS E QUANTITATIVAS NA AVALIAO DE POLTICAS PBLICAS
___. Consideraes sobre o uso, mau uso e abuso dos indicadores sociais
na formulao e avaliao de polticas pblicas municipais. RAP. Rio de Ja-
neiro 36(1):51-72, jan. /fev. 2002.
MILLS, A. To contract or not contract Issues for low and middle income
countries. Health Policy and Planning, Oxford, v. 13, n 1, pp. 31-40, 1998.
99