regularización asimétrica en bibliotecas de aprendizaje automático (por ejemplo, scikit) en python - python, aprendizaje automático, scikit-learn, asimétrico, regularizado

El problema me obliga a regularizar los pesos de las funciones seleccionadas mientras entreno un clasificador lineal. Estoy usando Python SKlearn.

Habiendo buscado mucho en google sobre la incorporaciónRegularización asimétrica para clasificadores en SKlearn, no pude encontrar ninguna solución. La función de biblioteca principal que realiza esta tarea se proporciona como un DLL para Windows, por lo que no es posible modificar la biblioteca existente.

¿Existe alguna biblioteca de aprendizaje automático para python con este tipo de flexibilidad? Cualquier tipo de ayuda será apreciada.

Respuestas

Para modificar la biblioteca, debe descargar la fuente (por ejemplo, desde el repositorio github del proyecto: https://github.com/scikit-learn/scikit-learn) e instale los requisitos de compilación (por ejemplo, un compilador de C / C ++ para su plataforma).

Aquí están las instrucciones de construcción para Windows:

• http://scikit-learn.org/dev/install.html#building-on-windows

Dependiendo de la cantidad de datos que tenga y de laclasificador que le gustaría usar, podría ser más fácil implementar la pérdida y luego usar un solucionador estándar como lbfgs o newton, o realizar un descenso de gradiente estocástico, si tiene muchos datos.

Usando un simple solucionador personalizado será probablementemucho más lento que usar el código scikit-learn, pero también será mucho más fácil de escribir. En particular, si está buscando una regresión logística, por ejemplo, tendría que profundizar en el código C de LibLinear. Por otro lado, estoy bastante seguro de que puede implementarlo en ~ 10 líneas de python usando lbfgs de forma no optimizada.