Uma área em que tipicamente ocorre soluções com dinâmicas complexas ou caóticas é a área conhecida como Jogos Evolucionários. Veja uma relação de referências dessa área aqui.
Respondendo mais diretamente a sua pergunta, eu acho que deveria haver mais referências importantes onde o problema de tomada de decisão caisse em problemas que exibissem dinâmica caótica. Eu não tenho exatamente certeza sobre esse assunto (pois essa é uma discussão mais macro e eu sou um cara mais de micro), mas parece que existe uma crença que soluções com dinâmicas complexas/caóticas não aparecem na solução de problemas de programação dinâmica. Um artigo que explora esse assunto é:
Montrucchio, L. and Sorger, G. (1996). Topological entropy of policy functions in concave dynamic optimization models, Journal of Mathematical Economics v. 25, p. 181–194.
Entretanto, nós (Eu e Wilfredo Maldonado) provamos que existe pelo menos uma classe de problemas de programação dinâmica que exibe dinâmica complexa (temos um projeto de generalizar esse trabalho, mas ainda não tivemos tempo):
Daniel O. Cajueiro and Wilfredo L. Maldonado
Role of optimization in the human dynamics of task execution
Phys. Rev. E 77, 035101(R) – Published 21 March 2008
Note como isso é relevante. Lembre que grande parte do que é desenvolvido em Macro-neoclássica depende de soluções de problemas de programação dinâmica.