Professional Documents
Culture Documents
mini-curso MC-B
Inteligência computacional aplicada à pesquisa
operacional: conceitos básicos e pesquisas na metodologias
academia e indústria
z inteligência artificial (artificial intelligence)
z algoritmos evolutivos (evolutionary algorithms)
Leandro dos Santos Coelho
z sistemas nebulosos (fuzzy systems)
Pontifícia Universidade Católica do Paraná
PPGEPS - Pós-Graduação em Engenharia de Produção e Sistemas z redes neurais artificiais (artificial neural networks)
Laboratório de Automação e Sistemas, Curitiba, PR, Brasil z outras abordagens inteligentes
Homepage: www.produtronica.pucpr.br/leandro
E-mail: lscoelho@rla01.pucpr.br 2
3 4
Testes de inteligência Teste de Turing
5
o teste de Turing.
6 interrogator cannot tell
z Gestação (43-56):
– teoria de automatos, redes neurais, prova de teoremas,
checkers.
– Shannon, Turing, Von Neumann, Newell, Simon,
Minsky, McCarthy, Darmouth Workshop.
z Grandes espectativas (52-69):
– Computadores pode fazer mais que aritmética
– General Problem Solver (GPS), melhores checkers
– LISP (LISt Processing language)
9 10
Breve histórico da inteligência artificial
13
Parte II: Algoritmos evolutivos
O que são algoritmos evolutivos?
Diagrama simplificado
das técnicas de busca e otimização
Histórico e inspiração biológica Técnicas de busca
Baseadas
Enumerativa
em cálculo
Guiada por
transições aleatórias
Fibonacci/Newtoniana
Programação dinâmica
Swarms
Simulated annealing Evolutiva (Evolucionária)
3 4
Exemplo de um algoritmo genético
(representação binária ou canônica)
Algoritmos genéticos Holland, 1975
http://www.lips.utexas.edu/~scott/ta/project9/TSPReport.htm#Genetic/Memetic%20Algorithms
http://www-cse.uta.edu/~cook/ai1/lectures/applets/gatsp/TSP.html
5 6
7 8
Algoritmos genético (representação Algoritmos genético (representação
binária ou canônica) binária ou canônica)
9 10
z utilização do conhecimento
obtido a priori pelo projetista
11 12
tc ti
Products Machine Jobs
http://www.pcai.com/web/ai_info/genetic_algorithms.html
http://solon.cma.univie.ac.at/~neum/glopt/software_g.html
http://www-illigal.ge.uiuc.edu/index.php3
http://www.wior.uni-karlsruhe.de/bibliothek/Integer/com/?
http://online.engr.uiuc.edu/webcourses/ge485/index.html?intro.html&2
15 16
http://cs.felk.cvut.cz/~xobitko/ga/ http://www.pmsi.fr/gafxmpa.htm
17 18
http://www.aridolan.com/ga/gaa/gaa.html#TspDemo
19 20
Exemplo de um programa em PG Operação de cruzamento em PG
21 22
Aplicações de programação
Operação de mutação em PG genética
23 24
Aplicações de PG: Applets de aplicações de
regressão simbólica programação genética em Java
http://alphard.ethz.ch/gerber/approx/default.html
http://www2.informatik.uni-erlangen.de/~jacob/Evolvica/GP/Java/html/
25 26
http://www.natural-selection.com/
http://www.geneticprogramming.com/
http://www.natural-selection.com/NSIPublicationsOnline.htm
27 28
Princípios do processo evolutivo Programação evolutiva (PE)
(programação evolutiva e estratégias evolutivas)
Aplicações de programação
evolutiva Programação evolutiva
31 32
Estratégia evolutiva Estratégia evolutiva
http://ls11-www.cs.uni-dortmund.de/people/baeck/
33 34
http://www.bionik.tu-berlin.de/intseit2/xs2polar.html http://ctr.stanford.edu/Summer00/cottet.pdf
35 36
Simulação da otimização com Simulação da otimização com
estratégias evolutivas estratégias evolutivas
http://www.bionik.tu-berlin.de/user/michael/english/lens/lens.html
http://www.bionik.tu-berlin.de/user/michael/english/funcfit/funcfit.html
37 38
http://sfbci.uni-dortmund.de/WSC6
http://www.nutechsolutions.com/about_us/default.asp
39 40
G AA
A CT TT GCCAT
CCGT ACCGGA
Síntese das características Abordagens emergentes
dos algoritmos evolutivos algoritmos evolutivos
- busca tabu
- swarm intelligence (colônia de formigas, partículas, ...)
- sistema imunes artificiais
- evolução diferencial
- algoritmos meméticos (evolução Lamarckiana)
Raciocínio
Aprendizado
Insetos
Partículas
Bactérias
Anticorpos
43 44
Swarm intelligence e formas de
inteligência na natureza Modelos de swarm intelligence
Características do sistema:
Número incontável de elementos.
Raciocínio Colônia Controle decentralizado.
Membros autonômos comportam-se com regras simpes baseadas em
informação local, interagindo com vizinhos mais próximos (pequeno ra
Anticorpos
Bactéria
Partículas
Humanos
animais
Grupos de
de animais
Sociedades
Insetos
de distância).
Membros colaboram para achar comportamentos globais complexos.
Inteligência de grupos
Elementos “pouco confiáveis/incertos” com limitado poder
computacional e recursos conectados de forma irregular.
Inteligência individual
Desafios para os modelos computacionais tradicionais.
Como achar comportamentos globais complexos de informação e
intersãção local sem programar individualmente cada membro?
Evolução humana?
Sistemas devem ser adaptativos e auto-organizados.
45 46
http://uk.geocities.com/markcsinclair/aco.html
http://iridia.ulb.ac.be/~mdorigo/ACO/ACO.html
47 48
Exemplos de aplicações Sistema imunológico artificial
(artificial immune systems)
de colônia de formigas
manufatura
algoritmos de controle distribuído
mecanismos de comunicação não-explícitos
roteamento de veículos
49 50
51 52
Algoritmos meméticos (evolução Lamarckiana) Sistemas híbridos inteligentes
55 56
Aplicações industriais de Aplicações industriais de
algoritmos evolutivos algoritmos evolutivos
Network of Excellence
in Evolutionary Computation
(EvoNet) http://evonet.dcs.napier.ac.uk/
http://www.cooperation.dassault-aviation.fr/Hpproj1.htm
comissão européia ESPRIT IV
Membros: Bristish Aerospace, Daimler-Benz, Dassault Aviation, Hewlett
Packard Laboratories, Institut Français du Petrole, Rolls-Royce, SGS-Thomson
e Siemens
57 58
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
projeto mecânico (seção transversal de uma turbina,
otimização de forma (shape optimization) Rolls-Royce; Fisher, R. & Baron, P. J. , Univ. Edinburgh)
Frazer, J. http://www.ellipsis.com/evolutionary/evolutionary.html#s5
59 60
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
melhor projeto da seção transversal da turbina projeto automático de residências (Rosenman, M.,
Univ. Sydney, Australia) http://www.arch.usyd.edu.au/~mike/
61 62
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos http://www.frams.poznan.pl/
63 64
http://www.it.rit.edu/%7Ejab/GenJam.html
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
65 66
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
67 68
Aplicações de
Algoritmo genético: outras aplicações algoritmos evolutivos
69 70
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
71 72
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
projeto de circuitos e filtros (Koza, J. R., Bentley, Stanford computação gráfica (Fujiwara, Y.; Sawai, H., University)
University) http://www.genetic-programming.com/johnkoza.html http://www.genetic-programming.com/johnkoza.html
73 74
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
http://evonet.dcs.napier.ac.uk/evoweb/news_events/news_features/nf_article53.html
75 76
http://www.spacer.com/news/materials-02b.html
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
http://evonet.dcs.napier.ac.uk/evoweb/news_events/news_features/article.php?id=173
77 http://evonet.dcs.napier.ac.uk/eurogp2004/evobio/ 78
http://www.fraunhofer.de/english/press/md-e/md2000/md12-2000e_t5.html
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
79 http://pubs.acs.org/subscribe/journals/mdd/v03/i09/html/felton.html 80
http://evonet.dcs.napier.ac.uk/evoweb/news_events/news_features/article.php?id=53 http://www.cnn.com/2000/NATURE/07/05/better.engines.enn/index.html
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
81 82
http://www.newscientist.com/hottopics/tech/article.jsp?id=99993398&sub=Computing
http://lslwww.epfl.ch/pages/embryonics/home.html
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
83 84
http://citeseer.nj.nec.com/bradley00embryonics.html http://www.genarts.com/galapagos/index.html
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
85 86
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
87 http://www.etl.go.jp/%7Eehw/common/gishu/gishu.html 88
http://www.evonet.polytechnique.fr/evoweb/news_events/news_features/nf_article14.html
http://www.wired.com/news/business/0,1367,35273,00.html
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
finanças finanças
89 90
Aplicações de Aplicações de
algoritmos evolutivos algoritmos evolutivos
91 92 http://www.etl.go.jp/%7Eehw/common/if/if.html
http://money.telegraph.co.uk/money/main.jhtml?xml=%2Fmoney%2F2001%2F06%2F06%2Fcnantz06.xml
Aplicações de
algoritmos evolutivos
93
O que são os sistemas
Parte III: Sistemas nebulosos (fuzzy system
nebulosos (fuzzy systems)?
5 6
1, se e somente se x ∈ A
µ A( x ) =
0, se e somente se x ∉ A
9 10
11 12
Modelo de Mamdani Modelo de Mamdani
13 14
15 16
Áreas promissoras da pesquisa operacional (e áreas
correlatas) para aplicações de sistemas nebulosos
Sistemas nebulosos
Finanças/negócios Estatística
Potencialidades Limitações análise de investimentos classificação
19 20
Aplicações industriais de Aplicações industriais de
sistemas nebulosos sistemas nebulosos
21 22
Aplicações industriais de Aplicações industriais de
sistemas nebulosos sistemas nebulosos
aplicações em hardware (Philip Drake and Jim Sibigtroth of Motorola análise de estoque
AMCU Division)
25 26
27 28
Aplicações industriais de Aplicações industriais de
sistemas nebulosos sistemas nebulosos
29 30
31 32
Aplicações industriais de Aplicações industriais de
sistemas nebulosos sistemas nebulosos
33 34
http://www.omron.com/
controle digital detector de incêndio (Cerberus, Suiça)
http://www.cerberus.com/e/prd/con_prd_fir_fir.asp
35 36
Aplicações industriais de Aplicações industriais de
sistemas nebulosos sistemas nebulosos
37 38
39 40
Aplicações industriais de Aplicações industriais de
sistemas nebulosos sistemas nebulosos
41 42
Resultados
Controle de posição e consumo de combustível reduzido em 3x
com relação a um operador humano
43 44
Aplicações industriais de Aplicações industriais de
sistemas nebulosos sistemas nebulosos no Brasil
http://www.shopcreator.com/mall/DomesticAppliancesOnline/products/product-840112.stm
45 46
http://www.it.uom.gr/pdp/DigitalLib/Fuzzy/fuzzy_soft.htm
47 48
http://www.aptronix.com/fide/fide.htm http://www.ortech-engr.com/fuzzy/togai.html
49 50
http://www.flextool.com/ http://www.hyperlogic.com/index.html
51 52
O que são as redes neurais
Parte IV: Redes neurais artificiais
(neural networks)?
mini-curso MC-B Uma rede neural artificial pode ser considerado um “processador”
paralelamente distribuído. Ela é constituída de unidades de
processamento simples (neurônios). Ela se “assemelha” ao cérebro em
Inteligência computacional aplicada à pesquisa dois aspectos:
operacional: conceitos básicos e pesquisas na 1. O conhecimento é adquirido pela rede a partir de seu ambiente
academia e indústria através de um procedimento de aprendizagem.
2. Forças de conexão entre neurônios, conhecidas como pesos
sinápticos, são utilizadas para armazenar o conhecimento adquirido.
Leandro dos Santos Coelho
Pontifícia Universidade Católica do Paraná
PPGEPS - Pós-Graduação em Engenharia de Produção e Sistemas
Laboratório de Automação e Sistemas, Curitiba, PR, Brasil
Homepage: www.produtronica.pucpr.br/leandro
E-mail: lscoelho@rla01.pucpr.br
2
Estudos
pioneiros sobre redes neurais Neurônio artificial
ª fundamentos
Williams James (1890), Alan Turing (1948), Donald Hebb (1949), Warren
S. McCullogh & Walter Pitts (1943), Hipócrates (3000 a.C.), entre outros
3 muitos pesquisadores 4
Perceptron (Frank Rosenblatt, 1958) Perceptron
5 6
7 8
Limitações do perceptron Perceptron multicamadas (Rumelhart et al., 1986)
9 10
11 12
Redes neurais
Porque usar as redes neurais?
Potencialidades Limitações
ª mínimos locais
- treinamento aprendizado
generalização
13 14
19 20
Aplicações industriais de Aplicações industriais de
redes neurais redes neurais
21 22
marketing, séries temporais, banco de dados, reconhecimento ótico e identificação facial (Rússia)
clustering http://www.kcl.ac.uk/neuronet/compnies/snnartne.doc http://www.gabitus.com/
People Data
Model
Performance measurement
elementos-chave para a
construção de modelos para
23 marketing direto 24
Aplicações industriais de Aplicações industriais de
redes neurais redes neurais
25 26
27 28
Aplicações industriais de Aplicações industriais de
redes neurais redes neurais
29 30
Innovation
Aplicações industriais de • The LoFLYTE® vehicle was the first known powered flight of a hypersonic
waverider configuration at low speed, which proves that this shape can takeoff
33 34
35 36
http://www.airauto.com/aai/start.htm
37 38
39 40
http://www.acq.osd.mil/bmdo/bmdolink/pdf/pap.pdf http://www.hpcwire.com/dsstar/99/1214/101212.html
http://www.devicelink.com/ivdt/archive/98/07/002.html
http://www.esuccess.ca/news/articles/2000_02_23.html
41 42
http://www.hpcwire.com/dsstar/00/1212/102489.html
http://www.powertech.co.uk/gnocis/
http://www.fairisaac.com/fairisaac
43 http://www.fraudconsulting.com/?page=/products/Financial/HNC_Falcon_Fraud_Manager§ion=products 44
Aplicações industriais de Aplicações industriais de
redes neurais redes neurais
45 http://www.newenergyassoc.com/html/nostradamus.html 46
http://www.sbt.siemens.com/FIS/productdoc/catalogs/6175.pdf
47 48
http://www.cmrc.co.uk/corporatefailure1999.pdf
http://peakconsulting.com/ijis3.pdf
http://www.sbaer.uca.edu/Research/2002/dsi/papers/283.pdf
49 50
http://www.deepinsight.com/DIAbout.html
http://www.tradingsolutions.com/?CJ
51 52
Aplicações industriais de Aplicações industriais de
redes neurais redes neurais
http://www.phys.uni.torun.pl/kmk/eann99/15-davey.pdf
55 56 http://www.alyuda.com/neural-networks-software.htm
http://www2.toshiba.co.jp/datamining/mining.htm
http://www.calsci.com/
57 58
sistema
softwarede previsão
comercial: de tempo
NeuroXL sistema
softwarede previsão
comercial: de tempo
NeuralWare
http://www.neuralware.com/
59 http://www.neuroxl.com/ 60
Aplicações industriais de
redes neurais Redes neurais: material básico
sistema
softwarede previsão
comercial: de tempo Neural Networks
Statistica
http://www.statsoft.com/stat_nn.html
61 62