retorno de onOptionsItemSelected()

Oi Eduardo, este retorno boolean é um indicativo ao Android que responde se este método irá consumir o evento de clique no menu de opção ou não.

Após saber isso, a primeira pergunta que surge é: quando ele retornaria false, ou seja, quando ele não iria consumir o evento de clique no menu de opção?

Isso iria ocorrer no caso de uso de Fragments, pois o Fragment também tem um método boolean onOptionsItemSelected(MenuItem...). Caso sua Activity tenha algum Fragment e no onOptionsItemSelected dela você retorne false, ela irá repassar o evento ao mesmo método de todos os Fragments contidos nela, na ordem que foram adicionados.

O Fragment pode optar também por não consumir o evento e retornar false, neste caso, se houver outro Fragment o evento será repassado para o mesmo método dele, por último, se ninguém retornou true para indicar que o evento foi consumido, e não houver mais para quem repassar, é executado o método da Activity do Android (é o motivo por normalmente ao final do método retornarmos super.onOptionsItemSelected(...); ). A implementação deste método do Android não faz nada por padrão.