Мартин Зинкевич, которого многие помнят еще по его работе в команде машинного обучения Яху, довольно давно перешел в гугл и вот выложил статью, под названием "Rules of Machine Learing: Best practice for ML Engineering". И она просто должна стать настольной книгой каждого ведущего разработчика современных продуктов. Там на мой взгляд хорошо почти все, прямо с первого правила, очень рекомендую ознакомиться всем, в том числе и не техническим специалистам! (осторожно, по ссылке .pdf) martin.zinkevich.org/rules_of_ml/rules_of_ml.pdf