Uma visão geral do programa desse curso está descrita nessa resposta.
As referências estão abaixo divididas em tópicos. É válido mencionar que nem todas as referências são usadas em todas as versões do curso, visto que sendo um curso optativo alguns dos tópicos são optativos e não são discutidos todo semestre. Logo, eu marquei com uma estrela aquelas que são usadas em todas as versões do curso.
Ciência popular (sugestões de leitura)
\(\star\) Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Today's Computers Hardcover - John MacCormick
\(\star\) In Pursuit of the Traveling Salesman: Mathematics at the Limits of Computation - William J. Cook
\(\star\) Algorithms to live by - Brian Christian and Tom Griffiths
\(\star\) Everything Is Obvious: How Common Sense Fails Us Paperback -
Duncan J. Watts
Classical
Vision - David Marr
Análise Funcional útil para vários tópicos:
Introductory funcional analysis with applications - Erwin Kreyszig
Métodos numéricos e computacionais em Economia:
\(\star\) Numerical Methods in Economics - Kenneth L. Judd (Author)
\(\star\) Quantitative Economics with Python - Thomas Sargent and John Stachurski
Análise numérica:
\(\star\) Analysis of Numerical Methods - Eugene Isaacson e Herbert Bishop Keller
\(\star\) Theoretical Numerical Analysis: An Introduction to Advanced Techniques
- Peter Linz
Introdução a algoritmos:
\(\star\) Introduction to Algorithms - Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest e Clifford Stein
\(\star\) Introduction to the Design and Analysis of Algorithms - Anany Levitin
Otimização numérica:
Otimização (Volumes 1 e 2) - Alexey Izmailov e Mikhail Vladimir Solodov
Programação Dinâmica e Aprendizagem por Reforço:
Dynamic Programming and Optimal Control - Dimitri P. Bertsekas
Markov Decision Processes: Discrete Stochastic Dynamic Programming - Martin L. Puterman
Reinforcement Learning: An Introduction - Richard S. Sutton (Author) e Andrew G. Barto
Neuro-Dynamic Programming - Dimitri P. Bertsekas e John N. Tsitsiklis
Redes Complexas:
Networks: An Introduction - Mark Newman
Network Science - Albert Barabasi
Social and Economic Networks - Matthew O. Jackson
Aprendizagem de Máquinas e Deep Learning:
Pattern Recognition and Machine Learning - Christopher Bishop
Machine Learning: A Bayesian and Optimization Perspective - Sergios Theodoridis
Neural Networks for Pattern Recognition - Christopher M. Bishop
Deep Learning - Yoshua Bengio, Ian Goodfellow e Aaron Courville