Solución:
Si alguien todavía está buscando una solución, tengo mi propio script que funciona con los mismos principios que Windows Hello (usando la cámara IR y el reconocimiento facial). Es personalizable, integrado con el PAM y funciona básicamente en todas partes: inicio de sesión, pantalla de bloqueo, sudo, su, etc.
Está disponible como PPA en github si quieres darle una vuelta.
Como todas las respuestas parecen malinterpretar la pregunta (hasta donde tengo entendido:]), y no tengo el representante para comentar, solo publicaré un intento de respuesta / ayuda.
En resumen: el inicio de sesión de Windows Hello parece utilizar una nube de puntos infrarrojos para obtener una profundidad 3D del campo / cara (mayor precisión en la identificación de la cara). Dado que esto es básicamente lo mismo que Kinect, sugiero buscar en proyectos y bibliotecas de Kinect.
Dado que no hay bibliotecas terminadas para agregar y usar, sugiero tomar un módulo de identificación de rostro de Ubuntu existente, modificarlo agregando una biblioteca de nube de puntos (PCL) al algoritmo de identificación de rostro.
ID de rostro de Ubuntu PAM: probaría algo más reciente que el pam-face-authenticate aparentemente abandonado, como este pam-facial-auth, https://github.com/devinaconley/pam-facial-auth bifurcarlo y modificar los datos de entrada serán la imagen de la nube de puntos de la cámara web IR.
Enlace de Python PCL a la cámara web: http://pointclouds.org/documentation/tutorials/depth_sense_grabber.php
¡Espero eso ayude!
Hasta Ubuntu 17.10, parece que no hay verdadero alternativa a Hello. Hay algunos proyectos, principalmente basados en dlib (aprendizaje automático), como este script de Python: http://pythonopencv.com/worlds-simplest-facial-recognition-api-for-pythonubuntu-only/
Sin embargo, ninguno de ellos parece haberse integrado hasta ahora con PAM.