انتمى ابراهيم جرار لصفوف حزب البعث العربي الاشتراكي عام 1953 وهو على مقاعد الدراسة الثانوية، وفي عام 1969 أصبح مديراً لمكاتب القيادة القومية للحزب في بغداد، ليصبح في عام 1970 مديراً لمكتب العلاقات الخارجية في الحزب حتى عام 1973، وشارك عام 1974 في اجتماعات المجلس الوطني الفلسطيني في القاهرة ممثلاً عن جبهة التحرير العربية، كما ترأس وفد فلسطين لمؤتمر علمي عقد في جدة حول الثروة المعدنية في الوطن العربي.