J'avais le même problème.
je l'ai résolu de la manière suivante:
1) connect sys as sysdba
2) create pfile from spfile
3) dans $ORACLE_HOME/dbs editer init***.ora, dans mon cas j'ai du réduire de moitié la taille du MEMORY_TARGET.
4) retour à SQLplus en tant que sysdba
5)create spfile from pfile
6) startup
Pour moi ça a marché.
Bon courage