En lugar de preguntar QUÉ, creo que también es importante saber POR QUÉ.
QUÉ: Álgebra lineal POR QUÉ: la mayor parte del aprendizaje automático que hacemos, trata con escalas y vectores y matrices – vectores de características, matrices de pesos, etc. Realiza la multiplicación de matrices vectoriales como, por ejemplo, en regresión logística, redes neuronales … O sí lo hace matriz transponga primero y luego multiplique (por ejemplo, en propagación de error en redes neuronales). A veces es necesario realizar un agrupamiento de la entrada, tal vez utilizando técnicas de agrupamiento espectral, lo que requiere que se conozca qué valores propios son, son los vectores propios . A veces es necesario tomar inversos de matrices, por ejemplo, al calcular el inverso de la matriz de covarianza para ajustar un gaussiano distribución. Así que ahora sabes POR QUÉ necesitas el álgebra lineal.
QUÉ: Teoría de la optimización POR QUÉ: ¿Cómo entrena los pesos de su modelo para minimizar el error de entrenamiento? Respuesta: optimización. Es posible que necesite saber cómo tomar la función de derivadas de pérdida con respecto a algún parámetro para poder llevar a cabo la optimización del descenso de gradiente . Es posible que necesite saber qué significan los gradientes . ¿Qué son las arpillera si estás haciendo una optimización de segundo orden como LBFGS ? Es posible que deba aprender qué son los pasos de Newton, tal vez para resolver búsquedas de líneas . Necesitará comprender los derivados funcionales para comprender mejor los árboles de decisión mejorados por degradado. Necesitará comprender las propiedades de convergencia de varios métodos de optimización para tener una idea de qué tan rápido o lento se ejecutará su algoritmo.
- ¿Qué disciplina científica incluiría el estudio de los fósiles?
- ¿Necesitamos un LOR para estudiar en el extranjero?
- ¿Realmente hace una gran diferencia si estudias ciencias de la computación en una Universidad de Russel Group o en un promedio en el Reino Unido?
- ¿Cómo estudian los historiadores la historia? ¿Por qué necesitan estudiar geografía?
- ¿Es necesario dar exámenes de pre-pensión en la Clase X?
QUÉ: Probabilidad y estadísticas POR QUÉ: Cuando está haciendo aprendizaje automático, está principalmente después de algún tipo de distribución. ¿Cuál es la probabilidad de una salida dada mi entrada? ¿Por qué necesito esto? Cuando su modelo de aprendizaje automático predice (asigna probabilidades) lo suficientemente alto como para una observación conocida, usted sabe que tiene un buen modelo a la mano. Es un criterio de bondad. Las estadísticas lo ayudan a contar bien, a normalizarse bien, a obtener distribuciones , a averiguar la media de su función de entrada, su desviación estándar . ¿Por qué necesitas estas cosas? Necesita medios y variaciones para normalizar mejor sus datos de entrada antes de introducirlos en su sistema de aprendizaje automático. Esto ayuda a una convergencia más rápida (concepto de teoría de optimización).
QUÉ: Procesamiento de señales POR QUÉ: Por lo general, no alimenta información sin procesar a sus sistemas de aprendizaje automático. Usted hace algún tipo de procesamiento previo. Por ejemplo, le gustaría extraer algunas características de la señal de voz de entrada, o una imagen. Ahora, la extracción de estas funciones necesita que usted conozca las propiedades de estas señales subyacentes. El procesamiento de señales digitales o el procesamiento de imágenes lo ayudarán a adquirir experiencia. Estaría en una mejor situación para saber qué funciona la extracción de características y qué no. Le gustaría saber qué es una transformada de Fourier porque tal vez le gustaría aplicarla a la señal de voz o tal vez aplicar la transformada de coseno discreta a las imágenes antes de usarlas como funciones para su sistema de aprendizaje automático.
Si lo desea, también puede leer esto como respuesta a la pregunta: “¿Cómo aprendo el aprendizaje automático, la inteligencia artificial y el procesamiento del lenguaje natural?”