OpenAI рассказывают о том, как они встраивают защиту в системы искусственного интеллекта. Подход понятен, но вот вопроc: давно известно, что введение любых ограничений обычно ослабляет продукт. И обязательно найдутся те, кто решит не ограничивать ai. В общем если опасения команды OpenAI оправданы - мы все умрем openai.com/blog/concrete-ai-safety-problems/

Concrete AI Safety Problems

We (along with researchers from Berkeley and Stanford) are co-authors on today's paper led by Google Brain researchers, Concrete Problems in AI Safety [https://arxiv.org/abs/1606.06565]. The paper explores many research problems around ensuring that modern machine learning systems operate as intended. (The problems are very practical, and we've already seen some being integrated into OpenAI Gym [https://gym.openai.com/envs#safety].) Advancing AI requires making AI systems smarter, but it also