1858లో సాయిబాబా షిరిడీకి వచ్చారు. అక్కడ ఖండోబా మందిరం దగ్గర బాబా బండి దిగినప్పుడు మందిరం పూజారి మహాల్సాపతి "రండి సాయీ" అని పిలిచాడు. "సాయి" అంటే "సా" అనగా సాక్షత్తు అని "యి" అనగా ఈశ్వరుడు అని అర్థం. తరువాత 'సాయి' నామం స్థిరపడి ఆయన "సాయిబాబా"గా ప్రసిద్ధుడైనారు.` సాయిబాబా సూఫీ ఫకీరుల్లాగా మోకాళ్ళవరకు ఉండే 'కఫనీ', తలకు టోపీలాగా చుట్టిన బట్టను ధరించేవారు. ఇలా ముస్లిం ఫకీరులా ఉండే బాబాకు స్థానిక హిందువుల నుంచి కొన్ని సమస్యలు కూడా ఎదురయ్యాయి.