No podés quitar el modo incógnito.
Bueno, en realidad sí, pero tenés que usar directivas de administrador, no es un tema trivial.
Filtrar la navegación no es algo que se deba hacer desde el navegador (porque el propio usuario podría instalar otro navegador, y adiós filtro). Tenés que buscar una aplicación de "control parental", e instalara con contraseña de administrador para que los usuarios comunes no la puedan desactivar.
En el centro de software de Ubuntu podés buscar para instalar dansguardian, una aplicación de filtrado de páginas web, que hace justamente lo que estás necesitando. Tiene buena valoración. Si lo probás, contanos luego qué tal te resultó.
