Η χρονολογία της γεννήσεώς του και η πατρίδα του δεν είναι γνωστά με ακρίβεια. Το βέβαιο είναι ότι γεννήθηκε στη Μικρά Ασία πριν από το 60 μ.Χ. Στο χριστιανισμό προσήλθε γύρω στο 20ό έτος της ηλικίας του ως μαθητής του πρώτου επισκόπου Σμύρνης, Βουκόλου. Στη συνέχεια, γνώρισε ακόμα και τον ίδιο τον απόστολο και ευαγγελιστή Ιωάννη. Όπως γράφει και ο μαθητής του Ειρηναίος προς κάποιον Φλωρίνο, ο Πολύκαρπος στολιζόταν από μεγάλη σωφροσύνη και αυστηρότητα ηθών, από την αγάπη προς τον Χριστό και τους συνανθρώπους του και από την ολόψυχη αφοσίωση στη διδασκαλία του θείου λόγου. Τα προτερήματά του αυτά και η γενναιοψυχία του τον κατέστησαν πολύ αγαπητό στον Ιωάννη τον Θεολόγο, ο οποίος μετά το θάνατο του Βουκόλου τον ανέδειξε σε επίσκοπο Σμύρνης.

Στο αξίωμα αυτό επιτέλεσε τα καθήκοντά του με ζήλο αποστολικό. Ανεδείχθη ο διδάσκαλος, ο πατέρας, ο ποιμένας, ο φρουρός. Στήριζε τους χριστιανούς στην πίστη και εργαζόταν ώστε να προσελκύσει και άλλους σε αυτήν. Ταυτόχρονα, την υπεράσπιζε από τους εθνικούς φιλοσόφους και πολεμούσε να τη διατηρήσει ανόθευτη από τις πλάνες των αιρετικών. Ο Πολύκαρπος παρακολούθησε με μεγάλο ενδιαφέρον τη σύλληψη του Ιγνατίου, επισκόπου Αντιοχείας, και τη μεταφορά του στη Ρώμη. Έτρεξε μάλιστα να τον δει, και ήταν εξόχως συγκινητική και δραματική η στιγμή κατά την οποία συναντήθηκαν οι δύο εκείνοι μεγάλοι αθλητές του σταυρού.

Το ενδιαφέρον του αγίου Πολυκάρπου προς τον Ιγνάτιο τον Θεοφόρο μαρτυρείται και από μία επιστολή, την οποία έγραψε προς τους Φιλιππησίους. Σε αυτή τους συγχαίρει για τη φιλοξενία που πρόσφεραν στον Ιγνάτιο και σε αυτούς που τον συνόδευαν, όταν πέρασαν από την πόλη τους, και τους ζητά πληροφορίες σχετικά με την τύχη του. Η επιστολή αυτή του Πολυκάρπου είναι η μόνη που σώζεται από τα έργα του και διακρίνεται για το αποστολικό φρόνημα που τη διαπνέει.

Σχετικά με τον Πολύκαρπο, βεβαιώνεται ότι γύρω στο 162, κατ’ άλλους το 157 ή 158, πήγε στη Ρώμη επί πάπα Ανικήτου, για να συνεννοηθούν για την κοινή ημέρα του εορτασμού του Πάσχα. Διότι την εποχή εκείνη στη Ρώμη και σε όλη τη Δύση έως και την Αλεξάνδρεια το Πάσχα εορταζόταν ημέρα Κυριακή, ενώ στις εκκλησίες της Ασίας εορταζόταν τη 14η του ιουδαϊκού μηνός Νισάν, όποια ημέρα και αν έπεφτε αυτή. Δεν μπόρεσαν να καταλήξουν σε οριστική συνεννόηση, αλλά και οι δύο έδειξαν μεγάλη αγάπη και πολλή τιμή μεταξύ τους. Ο Ανίκητος μάλιστα παραχώρησε στον Πολύκαρπο να τελέσει το μυστήριο της Θείας Ευχαριστίας σε μια από τις λειτουργίες στις οποίες παρευρέθη.

Κατά την παραμονή του στη Ρώμη ο Πολύκαρπος μπόρεσε να διαφωτίσει και να επιστρέψει στην αλήθεια της πίστεως πολλούς οπαδούς των αιρετικών Μαρκίωνα και Ουαλεντίνου. Αναφέρεται μάλιστα ότι ο Μαρκίωνας συνάντησε τότε τον Πολύκαρπο κατά τύχη και τον ρώτησε με αγέρωχο και ειρωνικό ύφος εάν τον γνώριζε. Ο Πολύκαρπος γνωρίζοντας την υπεροψία και το πείσμα του αιρεσιάρχη και οργισμένος εναντίον του, διότι έσχιζε την Εκκλησία και οδηγούσε ψυχές στην απώλεια, του απάντησε: «Σε γνωρίζω ως τον πρωτότοκο γιο του Σατανά».

Κατά το διωγμό εναντίον των χριστιανών επί αυτοκράτορα Αντωνίου Πίου, ανθύπατος στη Μικρά Ασία ήταν ο Στάτιος Κοδράτος. Προς αυτόν διετυπώθη μανιώδη απαίτηση του ειδωλολατρικού πλήθους να συλλάβει και να βασανίσει και στην ανάγκη να σκοτώσει το χριστιανό ποιμενάρχη. Ο ιερός Πολύκαρπος θέλησε αρχικά να μη λάβει κανένα μέτρο προστασίας, αλλά να αφήσει το τέλος του στα χέρια του Θεού. Οι χριστιανοί, όμως, που ήξεραν τι θησαυρό θα έχαναν και ότι το Ευαγγέλιο δε μας εμποδίζει να φυλαγόμαστε από τους κινδύνους, αρκεί να μην προδίδουμε την πίστη μας, επέμειναν παρακαλώντας τον με δάκρυα να φύγει.

Συγκινημένος ο γέροντας επίσκοπος ενέδωσε. Κατέφυγε λοιπόν σε ένα μικρό και κοντινό σε απόσταση αγρό, στον οποίο έμεινε μαζί με κάποιους φίλους συμπροσευχόμενος μαζί τους και τονώνοντας το πεσμένο φρόνημά τους. Από εκεί τον μετέφεραν σε άλλο καταφύγιο, διότι έμαθαν ότι το πρώτο προδόθηκε. Αλλά και το δεύτερο δεν έμεινε για αρκετό καιρό μυστικό. Τότε κατόρθωσαν να τον τοποθετήσουν εγκαίρως αλλού, αλλά και πάλι οι αρχές τον ανακάλυψαν.

Ο Πολύκαρπος, ενώ είχε τη δυνατότητα να διαφύγει πάλι, δε θέλησε. Αυτή η αδιάλειπτη φυγή τού φάνηκε σαν ένα είδος λιποταξίας και δραπετεύσεως από το θάρρος που έπρεπε να επιδείξει ο επικεφαλής των χριστιανών. Έμεινε λοιπόν λέγοντας: «Ας γίνει το θέλημα του Θεού». Και αμέσως κατέβηκε και παρουσιάστηκε στους άνδρες των αρχών.

Τον πήραν και τον μετέφεραν «σηκωτό» στην πόλη. Όταν τον παρουσίασαν μπροστά στον ανθύπατο, του πρότειναν να βλασφημήσει τον Χριστό. Ο γέροντας επίσκοπος απάντησε: «Για ογδόντα έξι χρόνια Τον υπηρέτησα χωρίς καθόλου να με αδικήσει. Πώς μπορώ να βλασφημήσω τον Βασιλέα και τον Σωτήρα μου;» Τότε ο ανθύπατος του πρότεινε τουλάχιστον να ορκιστεί στην τύχη του Καίσαρα. Ο Πολύκαρπος του απάντησε ότι σέβεται τον Καίσαρα, αλλά δεν κάνει ειδωλολατρικούς όρκους. Ο ανθύπατος ανήκε στους ανθρώπους εκείνους που δε διαπράττουν από μόνοι τους κάποιο έγκλημα, αλλά, όπως και ο Πιλάτος, δεν έχουν το ψυχικό σθένος να το αρνηθούν στα πλήθη που με αδημονία το ζητούν. Για το χριστιανισμό λίγο τον ενδιέφερε, όπως και ο Πιλάτος λίγο ενδιαφερόταν για την αλήθεια την οποία ήρθε να κηρύξει ο Χριστός. Ταυτόχρονα, ακούγονταν και οι φωνές του πλήθους που ζητούσε το θάνατο του αγίου Πολυκάρπου. Και ο ανθύπατος του είπε: «Εάν μπορείς, πείσε το πλήθος». Ο Πολύκαρπος τότε του απάντησε ότι αυτό είναι περιττό, διότι το πλήθος είχε ήδη προδιαγράψει το τέλος του και ότι δεν επιθυμούσε φωτισμό, αλλά φόνο.

Τότε ο ανθύπατος τον απείλησε ότι θα τον έριχνε στα θηρία ή στη φωτιά, αλλά εκείνος απάντησε ότι και το ένα και το άλλο του είναι ευπρόσδεκτα. Μετά από όλα αυτά και αφού όλες οι προσπάθειες του ανθύπατου απέτυχαν, έδωσε διαταγή στον κήρυκα να σταθεί στη μέση του σταδίου και να φωνάξει τρεις φορές ότι ο Πολύκαρπος ομολόγησε ότι είναι χριστιανός. Το πλήθος των ειδωλολατρών απάντησε αμέσως: «Αυτός είναι της ασέβειας διδάσκαλος, πατέρας των χριστιανών, ο οποίος έχει σκοπό να καθαιρέσει τους δικούς μας θεούς, αυτός που διδάσκει να μη θυσιάζουν ούτε να προσκυνούν τους θεούς μας». Και τότε πάρθηκε η απόφαση να θανατωθεί ο Πολύκαρπος στη φωτιά.

Με το που ακούστηκε η απόφαση, ειδωλολάτρες και Ιουδαίοι έτρεξαν στα κοντινά λουτρά και εργαστήρια για να φέρουν ξύλα για τη φωτιά. Στο μεταξύ, ο ανθύπατος προσπαθούσε να εκφοβίσει τον Πολύκαρπο περιγράφοντάς του πόσο φρικτό είναι να πεθαίνει κάποιος στη φωτιά. Ο γέροντας επίσκοπος όμως του απάντησε: «Μην προσπαθείς να με φοβερίσεις με τη φωτιά, η οποία μόνο προσωρινά καίει. Έχεις δίκιο να σκέφτεσαι με αυτόν τον τρόπο, διότι αγνοείς την ύπαρξη της μελλοντικής κρίσης και της φωτιάς της κολάσεως, η οποία περιμένει τους ασεβείς. Είναι περιττό λοιπόν να καθυστερείς. Κάνε ό,τι θέλεις.» Πριν ακόμα η φωτιά ανάψει, έδεσαν τα γεροντικά του χέρια και έτσι δεμένος έκανε την εξής προσευχή: «Κύριε, ο Θεός μου και Παντοκράτορας, Εσύ που είσαι πατέρας του ευλογημένου παιδιού Σου, Ιησού Χριστού, μέσω του οποίου Σε γνωρίσαμε, Εσύ που είσαι ο Θεός των αγγέλων και των δυνάμεων και όλης της δημιουργίας και όλων των ανθρώπων που έζησαν πάνω στη γη τηρώντας το θέλημά Σου. Σε ευλογώ, διότι με αξίωσες αυτή την ημέρα και ώρα να συμμετάσχω και εγώ στο σύνολο των μαρτύρων Σου, μέσω του Ποτηρίου του Χριστού Σου, με την προσδοκία της αιωνίου ζωής και της ανάστασης του σώματος και της ψυχής μέσα στην αφθαρσία που χαρίζει το Άγιο Πνεύμα. Με τη βοήθεια του οποίου προσέρχομαι μπροστά Σου ως ευπρόσδεκτη θυσία, καθώς προετοίμασες και προεφανέρωσες και εκπλήρωσες ο αψευδής και αληθινός Θεός. Γι’ αυτό και για όλα Σε υμνώ, Σε ευλογώ, Σε δοξάζω, Εσένα και το αιώνιο παιδί Σου, τον Ιησού Χριστό, που βρίσκεται στον ουρανό μαζί Σου, μαζί με τον οποίο σε Σένα και στο Άγιο Πνεύμα ανήκει η δόξα τώρα και τους απέραντους αιώνες. Αμήν». Κατόπιν τον ρίξανε στις φλόγες, αλλά η κατάπληξη ήταν μεγάλη, όταν η φωτιά σχημάτισε ένα είδος καμάρας που άφηνε τον μάρτυρα αβλαβή και σώο. Αντί όμως οι παρευρισκόμενοι να φωτιστούν από αυτό το θαύμα, τυφλώθηκαν περισσότερο. Ειδωλολάτρες και Ιουδαίοι φώναζαν δαιμονικά και ένας από τους δημίους πλησίασε τον μάρτυρα και τερμάτισε τη ζωή του χτυπώντας τον με ξίφος.

Έτσι, την 23η Φεβρουαρίου του 156 τελείωσε τη ζωή του, την οποία πρόσφερε για την αγάπη του Χριστού, ο Πολύκαρπος Σμύρνης, ο στύλος της Εκκλησίας, ο μεγάλος αθλητής της πίστεως. Γι’ αυτόν ο Ιωάννης στην Αποκάλυψη είπε εκείνα τα γνωστά λόγια: «Μη φοβηθείς αυτά που πρόκειται να πάθεις, … Μείνε πιστός μέχρι το θάνατο και θα σου δώσω το στεφάνι της ζωής».

Ο εμπνευσμένος οραματιστής της Πάτμου το προείπε σωστά. Η καρδιά του αγίου Πολυκάρπου δεν κλονίστηκε από κανένα φόβο μπροστά στα παθήματά του. Την πίστη του τη σφράγισε με το αίμα του και πήρε το στεφάνι της ζωής και της δόξας.