ابو ایوب خالد بن زید انصاری حدود بیست سال قبل از بعثت در قبیله بنی نجار در مدینه به دنیا آمد. او در سال 12 بعثت در پیمان دوم عقبه حضور یافت و با پیامبر اکرم صلی الله علیه و آله و سلم بیعت نمود. پیامبر اسلام پس از هجرت به مدینه، تا زمان اتمام ساختمان مسجد و خانه ی کنارش، در خانه او اقامت کرد. ابوایوب که مردی فقیر بود، بزغاله اش را که تنها دارایی اش بود، به برکت تشریف فرمائی رسول خدا قربانی کرد، و در هنگام مراسم جشن عروسی حضرت فاطمه زهرا علیهاسلام نیز به جهت علاقه اش به خاندان نبوت، گوسفندی به پیامبر اهداء نمود. رسول خدا در مراسم اخوت اسلامی، بین او و مصعب ابن عمیر، پیمان برادری استوار ساخت. ابوایوب در تمام غزوه های رسول خدا حضور داشت. او در جنگ خیبر نگهبان خیمه رسول خدا بود و پیامبر در حقش دعا فرموده بود.
ابو ایوب انصاری از جمله صحابه بزرگ رسول خدا بود که پس از رحلت پیامبر به دفاع از حق امامت امام علی علیه السلام پرداخت. وی پس از ماجرای شورای سقیفه بنی ساعده و موضع گیری حضرت علی علیه السلام در برابر آن، از زمره دوازده تن مبارز سیاسی مدینه بود که در آن فضای رعب و وحشت، به مخالفت با حکومت پرداخت، در مسجد النبی مدینه در مقابل خلیفه سخن گفت و واقعه غدیر خم را یاد آور شد. ابو ایوب در زمان خلافت عثمان نیز از مخالفان وی بود و در کنار دیگر صحابیان مبارز، نامه ای به سایر بلاد اسلامی نوشت و ضمن گلایه از اوضاع نابسامان مرکز اصلی اسلام، مدینه، مردم آن بلاد را به مبارزه فرا خواند. وی امامت جماعت مسجد النبی مدینه را عهده دار بود و پس از قتل عثمان از نخستین کسانی بود که با امام علی علیه السلام بیعت کرد و از آن پس در کنار امیر المؤمنین علیه السلام در سه نبرد جنگ جمل، جنگ صفین و جنگ نهروان حضور یافت و در این سه نبرد حماسه ها آفرید. به عنوان نمونه می توان به کشتن حرقوص بن زهیر سعدی، بنیان گذار خوارج در جنگ نهروان، اشاره کرد.
پس از شهادت امام علی علیه السلام و در زمان حکومت معاویه، ابوایوب انصاری برای جنگ به قسطنطنیه (استانبول فعلی) رفت و سرانجام در سال 52، در هنگام محاصره قسطنطنیه بیمار شد و درگذشت. بنا به وصیتش او را در پای دیوار شهر قسطنطنیه به خاک سپردند. پس از استیلای ترکان بر قسطنطنیه، در محل دفن ابوایوب مسجد بزرگی بنا نهاده شد، و اکنون نیز مرقدش در شهر استانبول زیارتگاه مسلمانان است.