Meta рассказали о своем новом подходе к машинному обучению без учителя, называется data2vec. Если очень сильно упрощать, это единая нейронная сеть, которая обобщает выводы об устройстве изображений, текстов, звуков, в некотором приближении чего угодно. И умеет, как и человеческий мозг, “достраивать” недостающие элементы. Если приглядеться, большая часть работы мозга заключается в достраивании недостающего во внешнем сигнале и моделировании будущего так, чтобы получался нужный нам результат. Скажем, вождение автомобиля это постоянное решение задачи “если я перемещусь из точки А в точку А1, будет ли это безопасно”.
Так вот, data2vec призван использовать общие “подходы” и переносить навыки по дополнению картины мира между разными областями. Впечатляет, что этот подход уже сейчас показал лучшие результаты в классических задачах машинного обучения, обогнав всех и в распознавании речи, и в определении изображения на картинке.
ai.facebook.com/blog/the-first-high-performance-self-supervised-algorithm-that-works-for-speech-vision-and-text
Data2vec: The first high-performance self-supervised algorithm that works for speech, vision, and text
We’ve built data2vec, the first general high-performance self-supervised algorithm for speech, vision, and text. When applied to different modalities, it matches or outperforms the best self-supervised algorithms.
Apple Inc. is nearing its first launch event of the year, with a new iPhone SE and iPad on tap. Also: The company takes another hit to its App Store business model, and the autonomous car team loses another top manager.
