Parta da definição de um conjunto convexo. Um conjunto \(S\) é convexo se \(\forall a,b \in S, t \in [0,1], at+b(1-t) \in S \). Logo, para mostrar que um conjunto não é convexo, basta mostrar que existem \(a^*, b^* \in S, t^* \in [0,1]\) tais que \(ta^*+(1-t)b^* \not \in S\). Nesse caso, os únicos elementos no seu conjunto S são múltiplos de (0,1) e (1,0), não? Então creio que seria convexo? Ou não entendi muito o que você quis dizer com d' e d".