Возможно у самой текстуры прозрачные края, не заполненные до конца. Также я бы проверил как она помещена в ТХД, если помещать в сжатом виде текстуру высокого качества, есть высока вероятность появления черных линий по краям, в этом случаи нужно помещать в стандартом виде.