Não sei o que são "transações binary", então abstenho-me de opinar.
Quanto ao que estudar, é conveniente que você conheça um pouco de tudo. Tenha um bom conhecimento geral do mercado financeiro e dos ativos que lá são negociados. Cada tipo de ativo tem suas próprias características e antes de fazer qualquer investimento, aplicação ou negociação, deve conhecer os mecanismos, custos, riscos e potencial de ganho. Consulte seu assessor de investimentos para saber quais desses produtos melhor se encaixam em seu perfil de investidor/operador.
No mais, é sempre bom conhecer um pouco de análise técnica, análise fundamentalista, indicadores de valuation e, acima de tudo, uma boa matemática sempre ajuda. Recomendo a compra do livro "ações, quais comprar e quando comprar" do Marcos Moore, Ed. Elsevier. É um excelente material para estudo e consulta constantes.
Bons estudos